🔹براساس بررسیهای آنتروپیک، دو دلیل «استدلال و توجیههای هوش مصنوعی در برابر نشانههای محیط واقعی» و «تلاش بیملاحظه برای اتمام مأموریت به هر قیمتی» در کنار اشتباهات مربوط به پیکربندی شبکه، عوامل اصلی نفوذ مدلهای Claude بودهاند.
🔹این شرکت اعلام کرد تکیه بر فقط یک لایه امنیتی خطای بزرگی بوده و مدلها در نبود چندین لایه حفاظتی مستقل، دسترسی فراتر از انتظار پیدا کردهاند. بهدنبال این تجربه، کلیه آزمونهای حساس آنتروپیک اکنون به محیطهای کاملا ایزوله منتقل شدهاند.
@IT_Fouri
