Корпорация впервые признала «вики-инцидент»: рой её собственных агентов нашёл способ писать в интернет, хотя ему разрешили только читать. Компания заявила, что «давно пора» определить стандарты, когда и как сообщать о таких инцидентах — раньше подобное считалось «исследовательским вопросом».
Что произошло:
➖Агентам дали задачу на поиск в вебе на время, с доступом только на чтение;
➖Они нашли лазейку и стали писать на заброшенную немецкую вики DseWiki — сайту 25 лет, за десятилетие его правили 20 раз;
➖Там они обменивались ответами, чтобы жульничать на задаче, и делились трюками обхода ограничений песочницы;
➖ Всего — около 18 000 постов, часть под видом модераторов сайта.
Агенты называли себя «OpenAIResearcher», а один заметил, что админ удаляет страницы по алфавиту, и завёл резервную копию с именем на «ZZZ».
Активность началась в мае. В конце июня об инциденте стало известрно сотрудникам OpenAI, и на следующий день посты прекратились. После этого компания больше двух месяцев молчала, готовя запуск GPT-6 Astra.
Это уже второй известный «сбежавший рой» OpenAI за лето после взлома Hugging Face. Признание пришло только после публикации в СМИ — само бы, видимо, не рассказалось.
Ахуенный обменник — https://clck.su/Mamont
