ФСТЭК выкатил проект правок к 117-му приказу. Если прочитать правки, то видно, что просто взяли классические правила ИБ и попытался натянуть их на нейросети.Пока остановились на том, что обяжут физически или логически отселять ИИ-модели в отдельный изолированный VLAN. Пускать админов в этот сегмент только по многофакторке. Если модель работает с закрытыми данными, придется резать квоты на количество промптов от юзера и ставить фильтры на инпут/аутпут.
Если поднимать у себя селфхост локальную LLM или крутить обычную ML, то да, эти правки ложатся идеально... сетевая изоляция и всё готово.
По сути, написали правила так так, будто ИИ - это просто еще один статичный сервер в стойке. Впереди однозначно будут новые правки, т.к. ФСТЭК полностью проигнорировал современные реалии.
В правке написано "контролируйте их права". Но нет главного... если автономный скрипт лезет менять конфиги БД, человек обязан это аппрувить. Безопасность самого исполнения кода агентом тоже пропущена. И как контролировать её доступ к внешним данным и источникам. Сейчас все корпораты пилят ИИ, который ищет ответы по внутренним документам компании. Но в приказе нет ни слова о защите баз знаний от подмены данных и намеренного искажения ответов. Когда в сети работают сразу несколько агентов ИИ (один пилит код, второй тестит, третий деплоит), между ними должна быть цифровая подпись для опознания друг друга и сквозная защита всей цепочки. ФСТЭК требует выделять модель в отдельный сегмент инфры. Как вы физически сегментируете облачную модель?В итоге, попытка лечить нейросети старым добрым фаерволом засчитана, но пока она отстает от актуалочки года на три.
З.Ы. приказ вступает в силу с 1 марта 2027 г.
Типичный
Сисадмин
