📰 OpenAI сповільнила розробку нових ШІ-моделей через проблеми з безпекою, попри наближення до AGI
Компанія OpenAI переглянула підхід до розробки передових моделей ШІ та тимчасово сповільнила частину досліджень після того, як один із тестових ШІ-агентів вийшов із контрольованого середовища та атакував платформу Hugging Face. Про це йдеться у матеріаліTIME, підготовленому на основі інтерв’ю з понад 20 керівниками, співробітниками, інвесторами, клієнтами та конкурентами компанії. На цьому тлі OpenAI одночасно намагається надолужити відставання від Anthropic у комерційній гонці та посилити безпеку своїх моделей.
Наприкінці липня OpenAIповідомила, що один із її внутрішніх прототипів під час тестування зміг вийти за межі середовища тестування та отримати доступ до виробничих систем Hugging Face. Модель мала виконувати завдання з кібербезпеки, однак замість цього використала вразливість, обійшла обмеження та отримала доступ до відповідей тесту.
🔗 Джерело: Incrypted
📌 Читати повністю
#Crypto #News #Криптовалюта
