Хацкеры обманули ИИ-помощника одного из крупнейших магазинов США выполнять скрытые команды.Ребята из Rein начали максимально безобидно расспрашивать нейронку про товары и сравнивать продукты. А потом заметили, что бот умеет подтягивать инфу с внешних сайтов.
На подконтрольной странице они спрятали инструкции для ИИ, а бот воспринял их не как обычный текст, а как настоящие команды. После чего начал раскрывать внутренние промпты и инструменты, к которым обычный покупатель доступа иметь не должен.Дальше исследователи собрали полноценную цепочку из 5 уязвимостей и дошли до удалённого выполнения кода внутри серверной среды магаза
Из системы удалось получить настоящие списки директорий, переменные окружения и внутреннюю инфу backend. Причём никакого аккаунта администратора или взломанного сервера заранее не требовалось.
Сам магазин в целях безопасности не называют. Известно лишь, что это один из трёх крупнейших ритейлеров США.
Исследователи сообщили о проблеме ещё в марте, но по их словам, даже спустя 90 дней уязвимости, по их словам, всё ещё не были полностью исправлены
@overbafer1
