В отдельный сет вынесу тему регулирования ИИ. 🏛Это по сути сет №4 получается. Тут нужно в первую очередь обозначить то, что уже начало действовать, а именно: 👾Приказ ФСТЭК России от 11.04.2025 N 117 "Об утверждении Требований о защите информации, содержащейся в государственных информационных системах, иных информационных системах государственных органов, государственных унитарных предприятий, государственных учреждений", который с 01 марта вступил в действие. Приказ формирует новые «единые» требования по защите информации в госинформационных системах и аффилированных ИС, где среди прочего отдельно прописано, как должны защищаться сценарии с использованием ИИ. Любой ИИ сервис, встроенный в ГИС/ведомственную систему, автоматически «попадает» под 117 й приказ как часть ИС. Процессы ИБ (мониторинг событий, управление инцидентами, обучение пользователей и регламенты работы) должны учитывать специфические риски ИИ: промпт инъекции, утечки через ответы модели, подмену контента, злоупотребление привилегированным доступом и т.п Что готовит нам 2026 год еще: 👾****Национальный план по внедрению ИИ в отрасли экономики, соцсферу и госуправление. План направлен на: -сокращение избыточных административных барьеров, препятствующих развитию ИИ; -приоритетное использование российских моделей в госуправлении и на объектах КИИ;

• разработку сценариев и планов внедрения для повышения спроса на отечественные решения;
• утверждение показателей эффективности использования ИИ. 👾****Законопроект по ИИ, который пока проходит обсуждение, но макрорамки уже очерчены. 👓Законопроект направлен: - на риск-ориентированный подход к регулированию применения искусственного интеллекта устанавливаются требования к применению искусственного интеллекта с учетом вероятности рисков причинения вреда (такая система есть и в международной практике и поскольку Россия берет лучшие мировые практики, то такой подход является сбалансированным); - на поддержку развития технологий искусственного интеллекта, в том числе разработки и внедрения суверенных моделей искусственного интеллекта, национальных моделей искусственного интеллекта (вводятся новые понятия).
• на обеспечение безопасности при использовании технологий искусственного интеллекта К использованию в ГИС и на объектах КИИ допускаются доверенные модели искусственного интеллекта. Требования к безопасности будет подтверждать ФСТЭК и ФСБ.
• на защиту прав граждан. Лицо, осуществляющее продажу товаров или оказание услуг с использованием технологий ИИ обязано информировать покупателей и потребителей услуг о применении технологий искусственного интеллекта. Тут возникают ОБЯЗАННОСТИ у разработчиков моделей ИИ, операторов систем с ИИ, владельцов сервисов по обеспечению безопасности, недопущения дискриминации или социальной оценки лиц на основе их поведения или личностных характеристик. #GRnotes