کارآموز جدیدی را تصور کنید که در نخستین روز کاریاش وارد سازمان میشود. در ابتدا، کارهای کوچکی را تحت نظارت به او میسپارید؛ وقتی بهخوبی از پسِ آنها برآمد، نوبت به کارهای بزرگتر میرسد. ماهها بعد و پس از آنکه بارها شایستگی و قابلیت اتکای خود را ثابت کرد، اختیار عمل واقعی را به او واگذار میکنید. هیچکس در همان روز اول کلید گاوصندوق را دست کارآموز نمیدهد. اختیار عمل، امتیازی نیست که یکباره تقدیم شود، بلکه دستاوردی است که باید در طول مسیر حاصل شود.
بر این باوریم که عاملهای هوش مصنوعی نیز باید همین مسیر را طی کنند. میزان اختیار عملِ یک عامل — یعنی کارهایی که اجازه دارد بدون نظارت مستقیم انجام دهد — نباید گزینهای ثابت در زمان نصب و راهاندازی باشد، بلکه باید به مرور زمان و بر اساس عملکرد و شواهد عینی ارتقا یابد. اختیار عمل، کلیدی نیست که از همان ابتدا تحویل داده شود؛ بلکه مسیری است که عامل باید گامبهگام آن را بپیماید.
حرکت از پایین به بالا
هر مسیری نقطه آغازی دارد. برای عاملی تازهکار، این نقطه ورود شامل کمریسکترین کارهاست؛ فعالیتهایی که بروز خطا در آنها پیامد جبرانناپذیری ندارد و ناظر انسانی میتواند بهسادگی بر آنها نظارت و بازبینی داشته باشد. این نقطه، پایینترین سطح مسیر است؛ جایی که عامل شایستگی اولیه خود را نشان میدهد و ما رفتارش را میسنجیم.
با حرکت به سطوح بالاتر، دو متغیر بهطور همزمان تغییر میکنند: ریسک کارهای واگذارشده افزایش مییابد و از میزان نظارت کاسته میشود. اما این ارتقا، خودکار یا صرفاً بر اساس گذشت زمان نیست، بلکه کاملاً مشروط است. عامل تنها زمانی به پله بعدی صعود میکند که در پله قبلی، بارها و به شکلی مستمر نشان داده باشد که قابل اتکاست. مسیر رو به بالاست، اما اعتبار هر قدم آن باید به دست آید.
شواهد، نه وعده
تفاوت این رویکرد با شعارِ «به هوش مصنوعی اعتماد کنید» دقیقاً در همین نقطه است. ما اعتماد را فرضی ازپیشتعیینشده قرار نمیدهیم، بلکه آن را گامبهگام میسازیم. هر پله از این مسیر با ارزیابیهای مشخصی سنجیده میشود؛ ارزیابیهایی مبتنی بر نمونههای واقعی که نشان میدهند آیا رفتار عامل در این سطح از مسئولیت، پایدار و قابل بازرسی است یا خیر. اختیار عمل بیشتر، پاداشِ ارائه شواهدِ متقنتر است.
مبتنی بودن این مسیر بر شواهد، آن را برگشتپذیر نیز میسازد. اگر عملکرد عامل در سطحی خاص افت کند — خواه به دلیل تغییر دادهها یا پیچیدهتر شدن وظایف — سطح اختیار او را کاهش میدهیم. این اتفاق نشانه شکست نیست، بلکه گواهی بر سلامت عملکرد سامانه است. همانطور که در یک سازمان کارآمد مسئولیتها متناسب با عملکرد افراد تنظیم میشوند، اختیار یک عامل نیز باید پویا و پاسخگو باقی بماند.
ایدهای رو به جلو
بخشی از آنچه در اینجا مطرح شد، جهتگیری طراحی ما را نشان میدهد و نه ادعایی درباره یک محصول نهایی و آماده. هدف ما روشن است: توسعه سامانههایی که اختیار عمل را به شکل یک مسیر مدیریت میکنند، نه مانند یک کلید روشن و خاموش. این دیدگاه، هوش مصنوعی را از ابزاری ایستا به موجودیتی شبیهتر به یک همکار تبدیل میکند؛ همکاری که به مرور زمان رشد میکند و شایستگیِ جلب اعتماد را به دست میآورد.
اختیار عمل را در همان روز نخست هدیه ندهید. بگذارید عامل نیز، مانند هر فرد متخصص، آن را در طول مسیر به دست آورد. همانطور که یک صفحه را از پایین به بالا ورق میزنید یا در یک حرفه پلهبهپله بالا میروید، اختیار یک عامل قابل اعتماد نیز دقیقاً همین مسیر رو به بالا را طی میکند.