Все выдержки об ИИ из приказа ФСТЭК № 117

Все выдержки об ИИ из приказа ФСТЭК № 117

1. П. 49: ИИ для мониторинга безопасности

«Допускается использование доверенных технологий искусственного интеллекта для анализа событий безопасности».

🔹ФСТЭК впервые легализовал ИИ в ИБ-мониторинге, но с ключевым ограничением – только «доверенные» (российские) решения. Это значит, что:

😶Зарубежные SIEM (Splunk, ArcSight) не подходят;

😶Нужны продукты с сертифицированными ИИ-модулями (например, Sber AI или Yandex AI);

2. П. 60: Запрет передачи данных

«Не допускается передача лицу, разработавшему модель ИИ, информации ограниченного доступа».

🔹Это революционное требование запрещает:

😶Дообучение моделей на чувствительных данных (гостайна, персданные);

😶Использование SaaS-ИИ (ChatGPT, Claude, DeepSeek) для обработки госинформации;

🔹Даже российские вендоры (Sber, Yandex) не получат доступ к сырым данным – только к анонимизированным датасетам.

3. П. 61: Контроль запросов/ответов

«Определены шаблоны запросов [...] контроль соответствия [...] разработаны критерии для выявления недостоверных ответов».

😶Фактически вводится «цензура ИИ»:

😶Для шаблонных интерфейсов – белый список команд (например, только SQL-запросы);

😶Для чат-ботов – фильтр тематик («запрещено спрашивать про гостайну»);

Ответы ИИ проверяются на галлюцинации (ложные факты) – нужны теперь встроенные детекторы в LLM.

4. П. 61: Реагирование на ложные ответы

«Реагирование [...] посредством ограничения области принимаемых решений».

🔹Если ИИ сгенерировал рискованный ответ (например, «удалить базу данных»), система должна:

😶Автоматически заблокировать выполнение команды;

😶Изолировать сегмент ИС;

Это требует интеграции ИИ с системами управления доступами

5. П. 60: Защита ИИ-инфраструктуры

«Защита за счет воздействия на: наборы данных, модели, параметры, процессы обработки».

🔹ФСТЭК предписывает защищать весь ИИ-стек:

😶Данные: Шифрование (КриптоПро), DLP (Гарда DLP);

😶Модели: Контейнеризация (Kubernetes);

😶API: Анализ трафика (Гарда WAF и NDR);

Это сложнее, чем защита традиционных ИС.

6. П. 61: Локализация ИИ

«Доверенные технологии ИИ [...] включаются непосредственно в состав ИС».

🔹Облачные ИИ-сервисы запрещены! Разрешены только:

😶Локальные (on-premise);

😶Российское ПО

#Кибербезопасность #ДляВсех #ИИ #ФСТЭК

Топ Кибербезопасности Батранкова