با بررسی تاریخچهٔ تقریباً هر سامانهای، بهوضوح میتوان دید که چه رخ داده است؛ وضعیتی از «باز» به «بسته» تغییر یافته، قیمتی دگرگون شده، یا رکوردی ایجاد و سپس بایگانی شده است. ردپای این رویدادها معمولاً دستنخورده باقی میماند.
اما آنچه تقریباً هیچگاه ثبت نمیشود، چراییِ وقوع این رویدادهاست. چرا آن وضعیت تغییر کرد؟ چه کسی و بر چه مبنایی تصمیم به تغییر قیمت گرفت؟ خودِ تغییر ثبت شده، اما دلیل پشت آن برای همیشه از دست رفته است.
ما این شکاف را نه یک موضوع فرعی و کماهمیت، بلکه مسئلهای بنیادین میدانیم. سامانهای که از جانب شما دست به اقدام میزند، باید بتواند نهتنها به چیستیِ کارکرد خود، بلکه به چراییِ آن نیز پاسخ دهد؛ این «چرا» باید درست در لحظهٔ اقدام ثبت شود، نه اینکه بعداً به بازسازیِ آن بپردازیم.
آنچه هرگز بازنمیگردد
بسیاری از امور را میتوان پس از وقوع نیز بازسازی کرد. اگر عددی نادرست باشد، امکان محاسبهٔ مجدد آن وجود دارد. اگر رکوردی از دست برود، اغلب از روی نسخهٔ پشتیبان بازیابی میشود. وضعیتها بازیافتنی هستند، چرا که وضعیت صرفاً نمایانگر آخرین مقدار ثبتشده است و آخرین مقدار را همیشه میتوان دوباره به دست آورد.
اما داستانِ «دلیلها» متفاوت است. یک دلیل تنها در همان لحظهای زنده و معتبر است که تصمیم اتخاذ میشود. با گذشتِ آن لحظه، تنها کار ممکن گمانهزنی است: بررسی واقعیتهای موجود، حدس زدن انگیزهای محتمل و مکتوب کردن آن بهگونهای که گویی حقیقتِ محض است. اما این استدلالِ فرضی، چیزی جز یک بازسازیِ پسینی نیست و بازسازی را نمیتوان سند و مدرک دانست؛ این کار صرفاً روایتی مصلحتی پس از وقوع حادثه است تا تصمیمهای گذشته هدفمند جلوه کنند.
از همین رو، ما «دلیل» را پدیدهای بازگشتناپذیر میدانیم. هر مؤلفهٔ دیگری در یک سامانه تکیهگاهی دارد، اما برای «چرا» هیچ تکیهگاهی نیست. اگر آن را در همان لحظهٔ وقوع ثبت نکنید، برای همیشه از دست رفته است و هیچ تلاشی در آینده نمیتواند آنچه را که هرگز نوشته نشده، بازیابی کند.
یک مجرای ورودی و دو پرسش
رویکرد ما برای حفظ چراییِ تصمیمات، ساختاری است و نه مبتنی بر توصیه و دستورالعمل. ما ثبت استدلال را به حافظهٔ انسانها یا عاملها واگذار نمیکنیم؛ بلکه اساساً اعمال هرگونه تغییری را بدون ارائهٔ دلیل غیرممکن میسازیم.
هر تغییر در سامانه باید از مجرای واحدی برای ثبت عبور کند. این مجرا پیش از تایید هر اقدامی، دو پرسش مطرح میکند: چه کسی این تغییر را اعمال میکند و به چه دلیل؟ یک ثبتکننده و یک علت. تغییری که پاسخ این دو پرسش را به همراه نداشته باشد، هرگز اعمال نخواهد شد؛ هیچ راه میانبری وجود ندارد و هیچ تغییر خامی نمیتواند از این سد عبور کند. دلیل، فرادادهای فرعی نیست که بعداً پیوست شود، بلکه جزئی جداییناپذیر از خودِ عملی است که تغییر را رقم میزند؛ این دو یا با هم ثبت میشوند یا هیچکدام.
این قاعده برای انسانها و هوش مصنوعی به یک اندازه صادق است. وقتی یکی از عاملهای ما دست به اقدام میزند، از همان مجرا عبور میکند و به همان دو پرسش پاسخ میدهد. هیچ مسیر اختصاصی و پنهانی وجود ندارد که فرآیندهای خودکار بتوانند تغییرات بیسروصدا در آن ایجاد کنند. این مهرِ تایید برای هر نهادی که با سامانه تعامل دارد یکسان است.
دستاوردهای ردیابیپذیری
با گرهخوردنِ دلیل به هر تغییر، کل سامانه به محیطی کاملاً شفاف تبدیل میشود. میتوانید دست روی هر دادهای بگذارید — هر مقدار، هر وضعیت، یا هر رکورد — و بپرسید «چرا چنین است؟» تا پاسخی واقعی دریافت کنید، نه یک حدس و گمان. این پاسخ را همان عامل یا فردی نوشته که تغییر را رقم زده، درست در همان لحظهٔ اقدام و به عنوان شرط لازم برای ثبت آن.
مسئولیتپذیری در عمل دقیقاً به همین معناست؛ نه ادعا و وعدهٔ عملکرد درستِ سامانه، بلکه امکانِ سنجش و بازرسیِ آن. نیازی نیست کورکورانه اعتماد کنید که اقدامِ درست به دلیلِ درستی انجام شده است؛ میتوانید خودتان روند را بررسی کنید. از آنجا که همان قواعد حاکم بر انسانها بر هوش مصنوعی نیز اعمال میشود، میتوانید تصمیمهای خودکار را دقیقاً با همان دقت و کیفیتی بازرسی کنید که تصمیمهای انسانی را ارزیابی میکنید.
این رویکرد مفهوم «خطایابی» را نیز دگرگون میکند. هنگام بروز خطا، کار را با حدس و گمان و حرکت رو به عقب از دادهٔ معیوب آغاز نمیکنید؛ بلکه دلیلی را میخوانید که آن مقدار را تولید کرده است. این دلیل معمولاً بلافاصله آشکار میسازد که آیا منطق کار ایراد داشته، ورودی خراب بوده یا تصمیم بهکلی اشتباه اتخاذ شده است. دانستنِ «چرا»، کوتاهترین راه برای اصلاح امور است.
جایگاه این رویکرد
این فلسفهٔ توسعهٔ ماست؛ شفاف و بیتعارف. سامانهای که در این نوشتار توصیف شده، در مرحلهٔ طراحی فعال قرار دارد؛ مسیری است که به آن متعهد شدهایم، نه یک محصول نهایی و مستقرشده با آمارهای تبلیغاتی. ما اصلی را تبیین میکنیم که خود را به آن پایبند میدانیم، چرا که باور داریم ارزش واقعی ما باید با همین اصول سنجیده شود.
ترجیح میدهیم عیار کار ما با این قاعده سنجیده شود، نه با ارائهٔ یک دمو. دمو تنها یک روز آرمانی و بیدردسر را به تصویر میکشد؛ اما این قاعده — یعنی تغییرناپذیریِ هر چیز بدون مشخص بودن عامل و دلیل آن — همان پناهگاهی است که در روزهای سخت دوام میآورد.
اعتماد به سامانهای که از جانب شما اقدام میکند، حاصلِ ادعای قابلاعتماد بودنِ آن نیست؛ بلکه از این امکان سرچشمه میگیرد که بتوانید دربارهٔ هر اقدام بپرسید چرا و پاسخی دریافت کنید که در لحظهٔ ثبتِ آن، کاملاً صادقانه و معتبر بوده است. این همان محوری است که ما همهچیز را بر گرد آن میسازیم و هرگز حاضر به فدا کردنش نیستیم.