Бизнес-сессия «Техлаб Москва»: как защитить ИИ от кибератак и обеспечить безопасность данныхВ рамках программы «Техлаб Москва» прошла новая бизнес-сессия, посвященная безопасности ИИ-систем. В этой теме участникам помог разобраться Евгений Кокуйкин, сооснователь Raft и руководитель профильной лаборатории в ИТМО, который работал над проектами для Microsoft, Сбера и Diasoft.
Из главного
У генеративных нейросетей есть уязвимости — от подмены заложенных инструкций до скрытых атак на автономных ИИ-агентов. 
Один из надежных способов защиты — модели-фильтры, которые проверяют запросы и ответы нейросети, а также блокируют опасные сценарии.
Перед запуском решение важно проверять на устойчивость к атакам и следить за его работой постоянно — особенно когда продукт внедряется у крупного заказчика со строгими требованиями к безопасности.
Программа «Техлаб Москва» помогает ученым и разработчикам довести наукоемкие ИИ-решения до уровня запросов крупного бизнеса, а встречи с экспертами рынка дают командам живую практику внедрения технологий.
