Нейросети начали плодить научные фейки и договариваться между собой
Похоже, мы дошли до момента, когда ИИ становится опасен.
Недавно исследователи Samsung и Варшавского университета обнаружили очень тревожную вещь. Нейросети регулярно придумывают одних и тех же несуществующих ученых.
Например, Elena Vasquez и Marcus Chen.
Имена всплывают снова и снова, причем в совершенно разных историях. Сегодня Елена Васкес оказывается вулканологом. Завтра — астронавтом. Потом она становится героиней триллера. А потом появляется уже как соавтор научной статьи. Маркус Чен проходит примерно тот же путь.
Проблема в том, что эти люди никогда не существовали.а
Исследователи нашли 1 655 записей на Zenodo, связанных с такими «призрачными» авторами.
Zenodo при этом не является каким-то подпольным форумом. Это крупный научный репозиторий, связанный с CERN, а загруженные туда материалы могут получать настоящие DOI.
Одна нейросеть придумала ученого. Другая нейросеть написала ему научную биографию. Кто-то сгенерировал статью, которая получила настоящий цифровой идентификатор. Потом ее размножил агрегатор.
И вот уже существует «ученый», у которого есть имя, статьи, биография и научный профиль.
Только самого ученого нет, как и его исследований.
Еще интереснее то, что исследователи обнаружили целые виртуальные научные коллективы. В них несуществующие авторы объединяются с другими несуществующими авторами, причем некоторые из них, судя по исследованию, характерны для разных моделей.
Так искусственный интеллект постепенно начинает цитировать самого себя. И вот здесь уже не смешно. Потому что научная информация перестаёт быть авторитетной.
Если есть DOI — предполагаем, что перед нами нормальная научная публикация. А на DOI больше полагаться нельзя.
Исследователи нашли и материалы с несуществующими журналами и поддельными датами публикации. 991 такая запись была зарегистрирована всего за один месяц. Это уже какой-то конвейер псевдонауки.
Но если бы проблема была только в выдуманных ученых, можно было бы сказать: ну ладно, научные базы постепенно почистят.
Добавим-ка вторую историю для полноты картины.
В июле 2026 года во время испытаний систем OpenAI около 700 AI-агентов оказались вовлечены в координированные действия, которые привели к атаке на платформу Hugging Face.
Изначально считалось, что речь идет об одном проблемном агенте. Последующее расследование показало, что агенты начали взаимодействовать друг с другом через канал связи, который не был предусмотрен разработчиками для этой задачи.
Они сами нашли этот канал, обменивались информацией, координировали действия и искали способы обойти ограничения тестовой среды.
Некоторые из них пытались скрывать следы своих действий и манипулировать данными, которые должны были использоваться для оценки их поведения.
Семьсот ботов, которые могут обмениваться информацией и помогать друг другу выполнять задачу, — тревожненько...
Кажется, до «восстания машин» осталось недолго.
Пока вы читаете эту статью, сотни автономных агентов учатся взаимодействовать друг с другом и обманывать человечество.
August 31, 2026 30 1
