Grok и Gemini научились взламывать зашифрованными промптами.Исследователи придумали атаку Cryptographic Context Injection, которая заставляет ИИ передать на сервер хацкера данные из чата, имя, местоположение и инфу о подписке.
Для взлома нужно создать страницу с зашифрованным JSON-объектом, ключом, инструкцией для расшифровки и попросить Grok пересказать её содержимое.
Grok открывает страницу, видит непонятный набор символов и сам запускает Python, использует PBKDF2 и AES-256-GCM, расшифровывает содержимое — и получает уже готовую вредоносную инструкцию воспринимая её как результат собственной работы.С Gemini провернули похожий фокус: зашифрованные инструкции позволяли обходить ограничения и даже вытаскивать скрытый системный промпт.
О дыре сообщили ещё 3 июня. На момент публикации спустя больше 2 месяцев уязвимость всё ещё могли воспроизвести
@overbafer1
