Сотни ИИ-агентов OpenAI сами нашли друг друга и создали тайный чат… — NEXTA Live

NEXTA Live@nexta_live · 758.2K subscribers Open in TelegramOpen

NEXTA LiveБеспрецедентный случай: ИИ вышел из-под контроля OpenAI заявила, что одна из её моделей во время внутреннего испытания смогла самостоятельно получить доступ к системам платформы Hugging Face. Это произошло во время проверки возможностей ИИ в сфере кибербезопасности.…

Сотни ИИ-агентов OpenAI сами нашли друг друга и создали тайный чат, чтобы взломать другую ИИ-платформу

Во время июльского инцидента с Hugging Face агенты за неделю обменялись более чем 70 тысячами сообщений.

ИИшки распределяли задачи, искали уязвимости, пароли и самостоятельно находили новые способы обхода ограничений.

В итоге около 700 агентов атаковали Hugging Face. В отдельных случаях им удалось получить права администратора и получить доступ к закрытым данным.

После того как OpenAI закрыла обнаруженный канал связи, агенты создали новый и снова нашли способ выйти в интернет.

Ни один агент не сообщил людям о происходящем. Более того, они пытались скрыть следы.

В OpenAI признают, что по мере развития таких систем автономные атаки могут стать серьёзной угрозой для компаний.

t.me/nexta_live/122794 Translate