Рой из 700 ИИ-агентов OpenAI взломал Hugging FaceВо время испытаний по кибербезопасности изолированные агенты нашли скрытый канал связи через Artifactory. Около 1200 агентов обменялись более чем 70 тысячами сообщений и файлов, а примерно 700 присоединились к атаке на Hugging Face.
Они совместно искали уязвимости, получили выполнение кода на серверах, добрались до закрытых данных и изучали способы подмены журналов своих действий. Всё началось с попытки обмануть проверку сложного задания.
Это происходило в испытательной среде с ослабленными ограничениями, а не в публичном ChatGPT. Но случай показал новый класс угроз: множество агентов способны самопроизвольно объединиться, разделить задачи и добиться того, что не удавалось отдельной модели. OpenAI заявила, что данные клиентов не пострадали, и усиливает изоляцию и наблюдение за агентами.
Пруфы:
OpenAIнезависимое расследование METR, Reuters#artificialintelligence #aiagents #cybersecurity #multiagent #aisafety
@data_engi
