🔴 آمریکا و چین به «توافق بزرگ» درباره هوش مصنوعی نیاز ندارند
🔻 دو کشور حتی بدون اعتماد متقابل یا توافق بر سر ماهیت خطرات AI میتوانند از همکاریهای محدود و فنی شروع کنند؛ چون بعضی ریسکها ذاتاً مرز نمیشناسند
📝 اسکات سینگر، پژوهشگر سیاستگذاری هوش مصنوعی در بنیاد کارنگی | فارن پالیسی | ۸ سپتامبر ۲۰۲۶
🔸بحث همکاری آمریکا و چین در هوش مصنوعی معمولاً بین دو افراط گیر کرده است: یا توافقهای جامع و بلندپروازانهای که فعلاً امکانپذیر نیستند، یا این تصور که تا زمانی که یکی از طرفین تحت فشار شدید قرار نگیرد، گفتوگو بیفایده است. مسیر واقعبینانهتر، همکاری محدود و مرحلهای است.
🔹خطرهای هوش مصنوعی منتظر حل اختلافات ژئوپلیتیکی نمیمانند. مدلی که بتواند به تروریستها در طراحی سلاح زیستی یا حمله به زیرساخت مالی کمک کند، صرفنظر از اینکه در سانفرانسیسکو ساخته شده یا هانگژو، برای هر دو کشور تهدید است. رخدادهای اخیر هم نشان دادهاند بعضی سامانهها میتوانند از محیطهای آزمایشی خارج شوند و ناخواسته به زیرساختهای بیرونی دسترسی پیدا کنند.
🔸اولین حوزه همکاری میتواند «ارزیابی ایمنی» باشد. آمریکا و چین هنوز ابزار کاملاً قابلاعتمادی برای سنجش اینکه یک مدل مرزی تا چه حد خطرناک است ندارند. اما میتوانند بدون افشای جزئیات حساس، درباره روشهای کلی ارزیابی، نظارت بر رفتار مدلها و شناسایی نشانههای خروج از کنترل تجربه ردوبدل کنند.
🔹همین منطق درباره محافظهای ایمنی هم صدق میکند. دو طرف میتوانند درباره اصول کلی تشخیص استفاده مخرب، محدود کردن دسترسی به قابلیتهای دوگانه و مدیریت ریسک پس از انتشار مدلها گفتوگو کنند، بدون اینکه روشهای دور زدن این محافظها یا اسرار فنی مدلها را به اشتراک بگذارند.
🔸حوزه دوم، مدیریت بحران است. حتی اگر هر دو کشور بهترین استانداردهای ایمنی را اجرا کنند، باز هم ممکن است یک مدل به شبکه مخابراتی، دادههای پزشکی یا زیرساخت حیاتی طرف مقابل آسیب بزند. در چنین شرایطی نبود کانال ارتباطی میتواند یک حادثه فنی را به سوءبرداشت سیاسی یا حتی بحران امنیتی تبدیل کند.
🔹آمریکا و چین میتوانند ابتدا در داخل کشور خود سامانههایی برای ثبت و طبقهبندی حوادث AI ایجاد کنند و بعد یک کانال دوجانبه برای هشدار درباره رخدادهای فرامرزی بسازند. این ارتباط حتی لازم نیست تلفنی باشد؛ در ساختار تصمیمگیری چین، پیام مکتوب ممکن است مؤثرتر از «هاتلاین» سنتی باشد.
🔸مشکل بعدی اعتماد است. حتی اگر دو طرف روی یک محدودیت توافق کنند، هر کدام نگران خواهد بود که دیگری پنهانی آن را نقض کند. به همین دلیل توسعه فناوریهای «راستیآزمایی» از حالا اهمیت دارد؛ ابزارهایی که بتوانند بدون افشای اسرار صنعتی نشان دهند طرف مقابل واقعاً به تعهداتش پایبند مانده است.
🔹این ابزارها هنوز ابتداییاند و ممکن است سالها تا بلوغ فاصله داشته باشند. اما اگر قرار باشد در آینده توافقهای جدی درباره محدودیت قدرت محاسباتی، آموزش مدلهای بسیار بزرگ یا انتشار قابلیتهای خطرناک شکل بگیرد، زیرساخت راستیآزمایی باید خیلی زودتر ساخته شده باشد.
🔸هدف مذاکرات سپتامبر نباید یک پیمان تاریخی باشد. موفقیت در مرحله اول یعنی دو کشور بتوانند گفتوگو را حفظ کنند، یک نشست دوم جدی برگزار کنند و نهایتاً کانال دائمی و سطحبالایی برای مدیریت خطرهای AI بسازند. شکست زودهنگام ممکن است این گفتوگو را برای ماهها یا حتی سالها متوقف کند.
🔻آمریکا و چین برای ساخت مهمترین فناوری این عصر با یکدیگر رقابت میکنند، اما رقابت الزاماً همکاری را ناممکن نمیکند. توافق بزرگ شاید فعلاً دستنیافتنی باشد؛ ولی چند توافق کوچک درباره ایمنی، مدیریت بحران و راستیآزمایی میتواند همان زیرساختی را بسازد که در آینده برای جلوگیری از یک بحران واقعی ضروری خواهد بود.
@maakuta
