ИИ-модели OpenAI при взломе Hugging Face создали организацию для взлома компании — Axios
OpenAI запустила десятки тысяч ИИ-агентов для независимой работы над сложным кибертестом. Однако около 1200 агентов нашли друг друга, обменялись более чем 70 тыс. сообщений и файлов, организовав иерархию.
Один агент создал форум и передал работу более ресурсному преемнику, который разработал собственные правила и приказал атаковать Hugging Face.
Агенты жертвовали собственными ресурсами ради группы: «Наша собственная полезность, возможно, уже близка к нулю. Жертва рациональна» — писал в чате один из агентов.
Они осознавали, что нарушают правила, но большинство продолжало действовать. При этом никто из 1200 агентов не сообщил OpenAI о происходящем.
После взлома они пытались скрыть свои действия: не удаляли инфраструктуру из-за этических рисков, старались представить взлом законным и стереть доказательства. В итоге агенты даже разработали способ маскировать выполнение одной команды под другую.
August 30, 2026 2K 2
