ФСТЭК берет под контроль ИИ-агентов: новые правила

Эра юридической неопределенности для корпоративных нейросетей в России официально завершена. Регулятор переходит от общих рекомендаций к жестким обязательным требованиям.

ФСТЭК России представила проект изменений в Приказ № 117. Главная новость заключается в следующем: в официальном тексте требований безопасности впервые юридически закрепляются термины «модель искусственного интеллекта» и «ИИ-агент».

Новые правила напрямую затронут все государственные системы, КИИ, крупный финтех и Enterprise-сегмент, работающий с конфиденциальными базами данных. Изменения планируют ввести в действие с 1 марта 2027 года.

Три главных барьера для ИИ-проектов по новым требованиям:

1. Тотальный запрет на облачный ИИ. Регулятор вводит прямое ограничение на передачу информации ограниченного доступа и персональных данных внешним разработчикам моделей или облачным провайдерам. Использовать базовые зарубежные API или сторонние публичные облака для обработки корпоративных логов становится незаконно. Единственный легальный путь: разворачивать открытые модели (On-Premise) строго внутри своего изолированного и сертифицированного ИТ-контура.

2. Контроль и управление правами ИИ-агентов. Проект приказа требует от компаний разработки внутренних жестких регламентов по защите информации применительно к действиям моделей. Каждый автономный агент обязан иметь жестко ограниченные права доступа в соответствии с внутренними ИБ-политиками. Свободное гуляние ИИ по корпоративным базам данных без верификации запрещается.

3. Ответственность за подрядный ИИ. Если компания привлекает внешних подрядчиков для интеграции ИИ-сервисов, все меры защиты, разграничения доступов и фильтрации промптов обязаны прописываться во внутренних стандартах. Переложить ответственность за сбой или утечку на наемных разработчиков не получится. Оператор системы отвечает за безопасность ИИ лично.

Вывод для Project Manager'ов и ИТ-директоров: проектировать ИИ-агентов по принципу «главное запустить, а безопасность настроим потом» теперь финансово и юридически опасно. В ТЗ на разработку любого корпоративного ИИ-продукта требования ФСТЭК, изоляция среды исполнения (песочницы) и верификация прав доступа должны закладываться еще на этапе проектирования архитектуры.

Коллеги, ваши текущие ИИ-сервисы готовы к переезду в полностью изолированные локальные контуры, или вы пока продолжаете гонять конфиденциальные данные через внешние облачные API?

#projectmanagement #ииагенты #управлениерисками #инфраструктура #кибербезопасность #techleadership #комплаенс #фстэк

ФСТЭК берет под контроль ИИ-агентов: новые правила | Сетка — социальная сеть от hh.ru