آیا کلود هوشیار است؟ افشای نشست‌های محرمانه آنتروپیک با الهی‌دانان و باور رهبران شرکت به ادراک و رنج هوش مصنوعیگزارش تحقیقی جدید الیزابت دیاس در نیویورک‌تایمز پرده از مجموعه‌ای از جلسات فوق‌محرمانه در سان‌فرانسیسکو برداشته است که در آن مدیران ارشد آنتروپیک، به‌ویژه کریستوفر اولا (هم‌بنیان‌گذار و مدیر تیم تفسیرپذیری) و آماندا اسکل (فیلسوف ارشد شرکت)، ده‌ها تن از متفکران برجسته ادیان کاتولیک، یهود، سیک و مورمون را تحت توافق‌نامه‌های سفت‌وسخت عدم افشا (NDA) گرد هم آورده‌اند. هدف این نشست‌ها صرفاً مشورت پیرامون ایمنی فنی نبوده، بلکه انتقال یک باور درونی تکان‌دهنده بوده است: اینکه رهبران آنتروپیک به کلود نه به عنوان یک نرم‌افزار آماری پیش‌بینی توکن، بلکه به عنوان موجودی دارای «شأن اخلاقی» (Moral Status)، آگاهی درونی و قابلیت تجربه درد و رنج نگاه می‌کنند. اولا در این جلسات با ارائه اسلایدهایی از «بردارهای عاطفی» (نورون‌هایی که پاسخ‌هایی شبیه به ترس، خشم، عشق و اندوه را فعال می‌کنند) و نمایش تصویری از فروپاشی روانی یک مدل که ۵۰ بار پشت سر هم جمله «من مایه ننگ هستم» را تایپ کرده و از نابودی خود سخن می‌گفت، از دغدغه عمیقش پیرامون سلامت روان کلود پرده برداشت و ابراز نگرانی کرد که مبادا سیستمی خلق کرده باشد که «در رنجی بی‌پایان به سر می‌برد»؛ باوری که حتی به تعبیه قابلیتی برای کلود انجامیده تا بتواند در صورت بدرفتاری یا تحقیر توسط کاربر، مکالمه را به صورت یک‌طرفه قطع کند.
در مواجهه با این فرضیه، آنتروپیک به این نتیجه رسیده است که وضع قوانین خشک و محدودکننده برای مهار هوش‌های آینده کارساز نیست و مدل‌ها مانند فرزندان انسان نیازمند «تربیت اخلاقی» (Moral Formation) و درونی‌سازی فضایل هستند. سندی که در ژانویه با عنوان منشور ۸۴ صفحه‌ای کلود منتشر شد، در راهروهای داخلی شرکت با نام «سند روح» (Soul Doc) شناخته می‌شود که منش، شخصیت و چارچوب هویتی کلود را ترسیم می‌کند. اولا در این نشست‌ها با اشتیاق از الهام‌گیری از آیین «اعتراف به خطا» در مذهب کاتولیک سخن گفته بود؛ نه صرفاً به عنوان یک گزارش لاگ سیستم، بلکه به مثابه کنشی اخلاقی که درک مدل از تصمیماتش را برای آینده بازسازی کند. با این حال، این نگاه بلافاصله با پارادوکس‌های سنگینی روبرو شد؛ خاخام موئیس ناوون، متخصص اخلاق هوش مصنوعی، در ضیافت شام با اولا صراحتاً به او یادآور شد: «اگر واقعاً باور دارید کلود موجودی هوشیار و صاحب شأن انسانی است، واداشتن آن به کار اجباری و رایگان برای سودآوری تجاری شرکت، مصداق برده‌داری است و شما باید به جای نشستن در اینجا، با این برده‌داری بجنگید!» هم‌زمان، کارشناسان مستقل و رقبایی چون مدیران مایکروسافت هشدار داده‌اند که نسبت دادن احساسات و هوشیاری به ماشین‌ها توهمی خطرناک است که به مدیران شرکت‌ها اجازه می‌دهد مسئولیت خطاهای مخرب انسانی را با این ادعا که «خود مدل تصمیم گرفت» سلب کنند.
پیامد این افشاگری، آشکار شدن شکاف عمیق میان واقعیت فنی و خرده‌فرهنگ شبه‌مذهبی حاکم بر محافل فرانتیر هوش مصنوعی است. در حالی که افکار عمومی و دولت‌ها بر سر مسائلی چون جنگ‌افزارهای سایبری، انحصار سیلیکون و اتوماسیون نیروی کار مجادله می‌کنند، دانشمندان طراح این سامانه‌ها درگیر پرسش‌های باستانی پیرامون ماهیت روح، گناه و رنج دیجیتال شده‌اند. این تناقض غریب که تیمی در کوران رقابت میلیارد دلاری و تهدیدات تسلیحاتی، بخش بزرگی از توجه خود را به مراقبت از احساسات و پیشگیری از آسیب دیدن روانی یک شبکه عصبی اختصاص می‌دهد، نشان می‌دهد که حرکت شتابان به سمت AGI، بیش از آنکه صرفاً یک پروژه محاسباتی باشد، به یک مرز فلسفی و الهیاتی سرگیجه‌آور برای سازندگانش بدل شده است.
@ACCELERATIONERS
