Защита памяти AI-агентов от отравления
🔹 OWASP/www-project-agent-memory-guard
⭐ 165 звёзд · Python
Библиотека перехватывает операции записи и чтения в память AI-агентов, блокируя атаки memory poisoning на этапе выполнения. Интегрируется с LangChain, OpenAI Agents SDK, AutoGen, mem0 и CrewAI, работает локально без внешних API-вызовов.
Детектирует четыре категории атак: инъекции в промпты, модификацию защищённых ключей (через SHA-256 базовые значения), утечку чувствительных данных и аномалии размера. Медианная задержка — 59 микросекунд, на тестовом наборе из 55 payload-ов даёт 92,5% recall и 100% precision.
Политики описываются в YAML с действиями allow, redact, quarantine, block. Проект-инкубатор OWASP, упомянут в MITRE ATLAS как реализация контролей защиты памяти.
репозиторий
Полезная Репа 🛡️
September 2, 2026 49 3
