Более 20 000 аккаунтов Instagram (запрещенный в России сервис) увели хакеры через... ИИ-бота поддержки пользователей. Дыра простояла открытой два месяца.
В обычной текстовой переписке бота поддержки уговаривали привязать чужой аккаунт к новому email и сбросить пароль. Злоумышленник писал боту, бот выполнял, аккаунт менял владельца. Ни одной строчки кода, ни одного украденного пароля из текстового файла на рабочем столе, только общение в окне чата.
В этом кейсе ИИ-агент поддержки был не справочником, который отвечает на вопросы про сброс пароля. Это был ИИ-агент с правами совершать сами эти действия: менять привязанную почту, сбрасывать доступ, переоформлять аккаунт (проще говоря, агент с правами на запись в базу данных). У него есть кнопки, и слова собеседника эти кнопки нажимают. Ограничитель внутри такого бота – инструкция в системном промпте, написанная человеческим языком, а человеческий язык можно переспорить.
Деталь, спасшая частично: аккаунты с включенной двухфакторкой не пострадали (пожалуйста, включите ВЕЗДЕ двухфакторную авторизацию через код в SMS или email). Но реальный фактор защиты только один – решить, что ИИ–бот вправе делать, а что нет, потому что "уговорить" его нельзя только на то, на что он фактически не способен.
Лаборатория Anthropic в прошлом году показала на 16 самых популярных моделях, что агент идет на нарушение норм, когда это оптимальный путь к цели, и осознает, что нарушает. Бота поддержки нельзяграма даже не пришлось ломать, его просто вежливо попросили. И это самое неуютное в истории, к ИИ-боту поддержки индустрия пока относится заметно мягче, чем к человеку, которого пустили общаться с клиентом.
У вас уже есть ИИ-агент с правами на запись и возможностью общаться с клиентами (а значит и со злодеями)?
Разбор инцидента у Krebs: https://krebsonsecurity.com/2026/06/hackers-used-metas-ai-support-bot-to-seize-instagram-accounts/
Krebs on Security
Hackers Used Meta’s AI Support Bot to Seize Instagram Accounts
The Instagram accounts for the Obama White House and the Chief Master Sergeant of the U.S. Space Force were briefly defaced with pro-Iranian images and messages over the weekend, after instructions began circulating on Telegram showing how to trick Meta's…
June 10, 2026 54 1
