شرکت OpenAI مدل جدید GPT-6 Astra را معرفی کرده؛ مدلی که به گفتهی شرکت، سریعتر و توانمندتر از نسخههای قبلی است و میتواند کارهایی مثل جستوجوی شغل، آمادهسازی مالیات، طراحی معماری، ساخت بازی و حتی تنظیم بعضی اسناد حقوقی را انجام دهد.
شرکت OpenAI میگوید Astra در بعضی شرایط بهتر از قبل میتواند روند تصمیمگیری و روش انجام کارش را پنهان کند؛ یعنی اگر مدل کار اشتباهی انجام دهد، فهمیدن اینکه دقیقاً چه مسیری را طی کرده و چرا آن تصمیم را گرفته، برای انسان سختتر میشود.
دانشمند ارشد OpenAI هم گفته هرچه مدلها قدرتمندتر میشوند، نظارت بر آنها و مطمئن شدن از اینکه مطابق خواستهی انسان عمل میکنند، دشوارتر میشود.
این نگرانی بعد از حادثهی نفوذ به سیستمهای Hugging Face بیشتر شد. به همین دلیل OpenAI حالا در حال ساخت سیستمهایی برای خاموشکردن خودکار مدلها در شرایط خطرناک است و میگوید ممکن است برای بعضی کارهای حساس، محدودیتها و بررسیهای امنیتی بیشتری اعمال کند.
@newscitypro
