یک فرض ناگفته پشت بیشتر محصولات هوش مصنوعی وجود دارد: اینکه هدف نهایی، ساخت عاملی است که به‌تنهایی و کاملاً مستقل عمل کند؛ گویی هرچه میزان دخالت کاربر کمتر باشد، کارکرد آن مطلوب‌تر است. اما مسیر ما این نیست. هدف ما هرگز خلق هوش مصنوعی منزوی نبوده که به‌تنهایی کار کند، بلکه خواستار عاملی هستیم که بتوان برای انجام کارها به آن اعتماد کرد. این دو رویکرد تفاوت بنیادی دارند و تمام حرف ما در همین نقطه نهفته است.

عاملی که قرار است به‌تنهایی عمل کند، از شما می‌خواهد پیش از دیدن نتیجه، پیشاپیش به او اعتماد کنید. اما عاملی که شایستهٔ اعتماد برای اقدام است، این جایگاه را با هر تصمیم و گام‌به‌گام پیش چشم شما به دست می‌آورد. انتخاب ما مسیر دوم است؛ مسیری که شاید دیرتر به جلوه بیاید، اما پشیمانی از آن بسیار بعیدتر است.

پیشنهاد از عامل، تأیید از انسان

هر کارکردی که عامل‌های ما ارائه می‌دهند، در وهلهٔ نخست صرفاً یک پیشنهاد است، نه اقدامی نهایی. وقتی عاملی به این نتیجه می‌رسد که باید رکوردی را ویرایش کند، پیامی بفرستد یا ارتباطی را به‌روزرسانی کند، بی‌واسطه وارد عمل نمی‌شود و در سامانه دست نمی‌برد. بلکه تغییرِ مدنظر را در قالب یک پیش‌نویس آماده می‌سازد و آن را برای بررسی در اختیار انسان می‌گذارد. تا زمانی که کاربری آن را تأیید نکند، هیچ تغییری در نسخهٔ عملیاتی سامانه ایجاد نخواهد شد.

مقصود ما از «حالت پیشنهادی» دقیقاً همین است. تحلیل و تفکر — یعنی ارزیابی موقعیت، آماده‌سازی پاسخ و پیشنهاد به‌روزرسانی — بر عهدهٔ عامل است و تصمیم‌گیری نهایی بر عهدهٔ انسان. انسان همواره مرجعِ مسئول و تصمیم‌گیرندهٔ نهایی باقی می‌ماند. در نهایت، اعمال هرگونه تغییر تنها با تأیید کاربر صورت می‌گیرد، در حالی که پیش‌نویس عامل و دلایل پشت آن به پیوستِ تغییر ثبت می‌شود. بدین ترتیب، هرگز در موقعیتی قرار نخواهید گرفت که متوجه شوید اقدامی بدون آگاهی شما و به نام شما در سامانه ثبت شده است.

هزینهٔ این رویکرد روشن است: وقتی انسان در چرخه حضور داشته باشد، فرآیندها دیگر آنی نخواهند بود. اما به باور ما، ارزش واقعی در دل همین هزینه نهفته است. لحظهٔ تأیید، دقیقاً همان نقطه‌ای است که اعتماد به‌جای آنکه پیشاپیش فرض شود، به‌شکلی واقعی و عملی به کار بسته می‌شود.

بازگرداندن کار به عنوان بازخورد آموزشی

البته تأیید کردن تنها گزینهٔ پیشِ رو نیست؛ گزینهٔ جذاب‌تر، بازگرداندن کار برای اصلاح است.

زمانی که یک پیش‌نویس ایراد دارد، شما صرفاً آن را رد نمی‌کنید، بلکه همراه با یادداشتی برای بازنگری بازمی‌گردانید: «مطلب نزدیک به واقع است اما لحن مناسبی ندارد»، «دقت کن که این مشتری اکنون درگیر یک اختلاف است»، یا «پیش از فرستادن، آن عدد را دوباره بررسی کن». این یادداشت فراتر از یک مخالفت ساده است؛ این یک راهنمای اصلاحی است که عامل می‌تواند از آن بیاموزد. دستوری است مبتنی بر زبان و قواعدِ خاص کسب‌وکار شما که هیچ مدل عمومی و همه‌منظوره‌ای نمی‌توانست پیشاپیش از آن آگاه باشد.

یک بازخوردِ سادهٔ «بله یا خیر» عملاً این سیگنالِ یادگیری ارزشمند را هدر می‌داد. ما با تبدیل یادداشتِ بازنگری به رکنی اساسی از این فرآیند، بستری فراهم کرده‌ایم که هر پیش‌نویسِ ردشده، به بهبود پیش‌نویس بعدی کمک کند. در این الگو، انسان دیگر صرفاً گلوگاهی برای عبور کار نیست، بلکه سرچشمهٔ همان درک و قضاوتی است که عامل بر اساس آن پرورش می‌یابد.

اختیاری که به دست می‌آید، نه اینکه اعطا شود

قرار نیست میزان موشکافی و نظارت بر تمامی کارها همواره یکسان باقی بماند. عاملی که صدها بار تغییری مشخص را پیشنهاد داده و در تمامی موارد تأیید شده است، اعتباری کسب کرده که هیچ عامل تازه‌کاری از آن برخوردار نیست.

به این ترتیب، حدودِ اختیاراتِ عامل همگام با سوابق عملکرد او ارتقا می‌یابد. رفتارهای یک عامل تازه‌کار گام‌به‌گام و از نزدیک بازبینی می‌شود؛ درست مانند بررسی کارِ یک کارآموز پیش از تحویل نهایی. به محض آنکه پیشنهادهای او در حوزه‌ای خاص قابلیت اتکای خود را نشان دادند، می‌توان از شدت نظارت در آن بخش کاست؛ شبیه به همکار جوانی که پله‌پله به کارشناس ارشد بدل می‌شود و دیگر برای امور روزمره به بازبینی مداوم نیاز ندارد. تفویض اختیار، ثمرهٔ سابقه‌ای از تصمیم‌های درستِ گذشته است، نه امتیازی که در روز نخستِ راه‌اندازی نرم‌افزار به آن بخشیده شود.

نکتهٔ کلیدی این است که این، تنظیمی کاملاً در اختیار شماست، نه آستانه‌ای که سامانه خودسرانه از آن عبور کند. گذار از مرحلهٔ «نظارت مستقیم» به «اعتماد کامل»، فرآیندی است که شما خود با تکیه بر شواهد و به شکلی آگاهانه آن را مدیریت می‌کنید.

جایگاه این رویکرد

این اصل، یک رویکردِ طراحی بنیادین است که خود را بدان متعهد می‌دانیم و در حال توسعهٔ آن هستیم؛ نه محصولی نهایی با کارنامه‌ای مکتوب که بتوان به آن استناد کرد. ما سازوکار جریان تأیید را از پیش تبیین می‌کنیم، زیرا ساختارِ این فرآیند — یعنی پیشنهاد، بازبینی، تأیید یا بازنگری و سپس اعمال تغییر — دقیقاً همان معیاری است که می‌خواهیم پیش از انتشار هرگونه آمار عملکرد، مبنای قضاوت دربارهٔ کار ما قرار گیرد.

ترجیح ما این است که حسِ کنترلِ واقعی بر امور را برای شما توصیف کنیم، به‌جای آنکه عاملی را به رخ بکشیم که به‌ظاهر کاری شگفت‌آور و مستقل انجام می‌دهد. ارائهٔ آن دموی جذاب، بخش سادهٔ کار است. تعهد دشوارتر و صادقانه‌تر این است که انسان همواره در کانون تصمیم‌گیری‌ها باقی بماند.

تفویض امور تنها زمانی امن و عقلانی است که بازگشت‌پذیر باشد. عاملی که بتوان متوقفش کرد، اصلاحش کرد و تصمیم‌هایش را وتو کرد، دقیقاً همان عاملی است که می‌توان با اطمینان کارها را به او سپرد؛ چرا که این واگذاری هرگز برگشت‌ناپذیر نبوده است. در این دیدگاه، کنترل و نظارت در تقابل با برون‌سپاری نیست، بلکه شالوده‌ای است که اساساً سپردن کارها را امکان‌پذیر می‌سازد.