پژوهشگر ارشد آنتروپیک: احتمال نابودی بشر بر اثر هوش مصنوعی در یک دهه آینده بیش از ۱۰ درصد است
یکی از پژوهشگران ارشد ایمنی هوش مصنوعی در شرکت Anthropic هشدار داده است که به ارزیابی شخصی او، احتمال آنکه توسعه هوش مصنوعی در ده سال آینده به نابودی بشریت منجر شود، بیش از ۱۰ درصد است.
ایوان هوبینگر (Evan Hubinger)، مسئول بخش «Alignment Science» در آنتروپیک، این ارزیابی را روز سهشنبه در شبکه اجتماعی ایکس مطرح کرد. او نوشت که نگرانی درباره احتمال نابودی بشر بر اثر هوش مصنوعی در میان برخی از افرادی که مستقیماً روی این فناوری کار میکنند، جدی است و برآورد شخصی خودش از چنین خطری در یک دهه آینده «بیش از ۱۰ درصد» است.
اظهارات هوبینگر در واکنش به کنارهگیری جیکوب کاکسون (Jacob Coxon)، پژوهشگر آنتروپیک و از کارکنان پیشین OpenAI، مطرح شد. کاکسون هنگام اعلام استعفای خود مدعی شد شرکتهای پیشرو هوش مصنوعی با سرعت به سوی سامانههایی حرکت میکنند که ممکن است قابلیت «خودبهبوددهی» داشته باشند، در حالی که مسائل اساسی مربوط به ایمنی و کنترل چنین سامانههایی هنوز حل نشده است. هوبینگر ضمن تأیید جدی بودن این نگرانی گفت آنتروپیک برای ایمنسازی هوش مصنوعی بسیار پیشرفته تلاش میکند، اما هنوز راهحل مشخص و اثباتشدهای برای مسئله همراستاسازی اَبَرهوش با اهداف و منافع انسانی در اختیار ندارد.
هوبینگر در پیام دیگری توضیح داد که این هشدار درباره مدلهای هوش مصنوعی موجود نیست. به گفته او، خطر مدلهای فعلی پایین است و نگرانی اصلی به نسلهای آینده مربوط میشود؛ بهویژه احتمال ظهور سامانههای بسیار پیشرفته از طریق «خودبهبوددهی بازگشتی» (recursive self-improvement)، یعنی وضعیتی فرضی که در آن سامانههای هوش مصنوعی در توسعه نسلهای توانمندتر خود نقش فزایندهای پیدا کنند.
این تمایز اهمیت زیادی دارد، زیرا برخی بازنشرهای خبر ممکن است چنین القا کنند که هوبینگر برای هوش مصنوعی کنونی احتمال ۱۰ درصدی نابودی بشر قائل شده است؛ در حالی که تصریح خود او خلاف این برداشت است. عدد بیش از ۱۰ درصد نیز یک برآورد شخصی درباره آینده است و نباید بهعنوان پیشبینی قطعی علمی یا موضع رسمی آنتروپیک ارائه شود.
اظهارات هوبینگر بازتاب گستردهای پیدا کرده است. واشنگتنپست گزارش کرده که این ماجرا بار دیگر اختلاف جدی میان پژوهشگران درباره «خطر وجودی» هوش مصنوعی را برجسته کرده است. گروهی از متخصصان چنین خطراتی را جدی میدانند، در حالی که گروهی دیگر برآوردهای مربوط به نابودی بشر را بیش از اندازه فرضی و مبتنی بر عدمقطعیتهای فراوان میدانند. بنابراین درباره میزان واقعی این خطر اجماع علمی وجود ندارد.
خود آنتروپیک نیز در گزارشهای ارزیابی ریسک خود میان تواناییهای مدلهای فعلی و خطرات احتمالی سامانههای آینده تفاوت قائل شده و خطر کنونی را پایین ارزیابی کرده است. از این رو، اهمیت سخنان هوبینگر بیش از آنکه در «پیشبینی وقوع نابودی بشر» باشد، در این نکته است که یکی از مسئولان اصلی پژوهش همراستاسازی در یکی از شرکتهای پیشرو هوش مصنوعی، احتمال یک پیامد فاجعهبار در آینده را آنقدر جدی میداند که برای آن عددی بالاتر از ۱۰ درصد در نظر میگیرد.
منابع اصلی خبر: گزارش ۹ سپتامبر ۲۰۲۶ The Washington Post و گزارش CBS News از معتبرترین منابع مستقیم برای استناد خبری هستند؛ The Guardian نیز موضوع را بهطور مستقل پوشش داده است.
https://t.me/UT_Central_Library
Anthropic
Home \ Anthropic
Anthropic is an AI safety and research company that's working to build reliable, interpretable, and steerable AI systems.
September 10, 2026 1.4K 14
