Представьте: злоумышленник 🦹одной фразой заставляет вашего корпоративного ассистента перевести деньги на левый счёт или удалить все файлы.
Это 😳реальная угроза промпт-инъекций.
А вы знали, что 👨💻60% сотрудников кормят публичные нейросети коммерческой тайной, исходниками и персональными данными, даже не догадываясь, что модель может выдать это конкурентам?
А если добавить еще факт утечек через RAG, когда 🤖ИИ показывает документы, к которым у человека нет доступа. Станет как-то очень волнительно!
На РБК-Компании вышла моя новая статья, где я раскрыл простые, но жёсткие правила: LLM-фильтры — для запросов, Guardrails — для ответов, серверы — локальные, модель доступа — ролевая.
Рекомендую к прочтению😏
Предупрежден значит вооружен!
