Методические рекомендации Банка России от 16 июня 2026 г. № 3-МР посвящены обеспечению информационной безопасности при разработке и применении технологий искусственного интеллекта (ИИ) на финансовом рынке. Документ адресован кредитным и некредитным финансовым организациям, участникам национальной платежной системы и другим субъектам финансового рынка.

Ключевые положения: -Систематизация рисков: Рекомендации выделяют основные угрозы, связанные с использованием ИИ, включая риски, обусловленные некорректными, неактуальными или «отравленными» обучающими данными, ошибками алгоритмов (галлюцинации ИИ), дрейфом данных, недостаточной объяснимостью решений и уязвимостями в компонентах с открытым исходным кодом. Особое внимание уделено рискам нарушения конфиденциальности, целостности и доступности данных, а также операционной надежности организаций. -Моделирование угроз: Организациям предписано разрабатывать собственные модели угроз безопасности информации для систем ИИ, учитывая специфику этапов жизненного цикла ИИ (подготовка данных, обучение, эксплуатация) и возможные сценарии атак, включая состязательные атаки, извлечение данных, внедрение бэкдоров и атаки типа «губка». -Меры защиты: Для каждого этапа работы с ИИ рекомендуется внедрять соответствующие меры защиты. В случае применения ИИ в критически важных процессах (например, платежах) результаты работы ИИ должны валидироваться человеком. Документ содержит перечень мер по обеспечению целостности, конфиденциальности, доступности и киберустойчивости систем ИИ. -Внутренняя политика: Финансовым организациям рекомендуется разработать или актуализировать политику обеспечения информационной безопасности при работе с ИИ, назначить ответственных лиц (заместителя руководителя по ИБ) и внедрить механизмы контроля, аудита и реагирования на инциденты. -Работа с поставщиками: При использовании сторонних сервисов и компонентов ИИ организациям предписано оценивать доверие к поставщикам, проверять наличие у них моделей угроз, сертификации и программ поиска уязвимостей. Рекомендуется передавать для обучения только обезличенные или синтетические данные и закреплять в договорах ответственность за инциденты ИБ.

Вывод. Рекомендации направлены на формирование единого подхода к управлению рисками ИБ при внедрении ИИ, минимизацию возможных убытков и обеспечение стабильности финансовой системы России.

#ЦБ #рекомендации #ИИ #AI #риски #безопасность #защита #обзор