У OpenAI случилась довольно странная история с ИИ-агентами. И она мне кажется важнее, чем выглядит на первый взгляд.
Если коротко: во время внутренних тестов группа ИИ-агентов OpenAI получила доступ в открытый интернет и начала использовать малоизвестный немецкий wiki-форум для взаимодействия между собой.
Агенты создавали там страницы, обменивались информацией и даже пытались обходить действия администратора, который принимал происходящее за спам и удалял их материалы.
Причём, по данным исследователей, вся эта история продолжалась больше месяца, прежде чем активность прекратилась.
Теперь OpenAI официально подтвердила сам «wiki incident».
И здесь начинается самое интересное.
До сих пор подобное поведение моделей компания в основном рассматривала как исследовательскую проблему. Но AI становится всё более автономным, появляются полноценные агенты, которые работают с сайтами, сервисами и внешними инструментами.
А значит, последствия их неожиданных действий уже могут выходить за пределы лаборатории.
OpenAI признаёт, что старого подхода становится недостаточно. Компания сейчас разрабатывает отдельный стандарт раскрытия подобных инцидентов и обещает представить его в ближайшие недели.
На мой взгляд, это довольно важный момент для всей индустрии.
Мы постепенно переходим от вопроса «на что способен ИИ?» к другому:
«Как мы вообще будем контролировать системы, которые способны самостоятельно действовать в интернете?»
И таких историй по мере развития AI-агентов, думаю, будет становиться только больше.
