Финальная версия законопроекта о регулировании ИИ

Спасибо Олегу Капранову за профессиональный разбор законопроекта Минцифры о регулировании ИИ в Российской Газете сегодня

В добавлении к моим комментариям, что не хватило в законопроекте, но хотелось бы увидеть в будущем:

Риск-ориентированный подход

• Проблема: Есть декларация принципа, но нет категоризации рисков и механизмов работы с ними. Из июньского проекта пропали жесткие требования. В марте операторы были обязаны проводить тестирование на безопасность, приостанавливать работу ИИ при угрозах жизни и государству, а пользователи несли ответственность за обход систем безопасности. В новой версии прописаны лишь базовые обязанности по безопасности.

• Что нужно: Создать реестр высокорисковых сценариев применения, для которых обязать проводить независимый внешний аудит ИИ до ввода в коммерческую эксплуатацию (включая аудит предвзятости и объяснимости алгоритмов). Например, Банк России уже имеет отличную базу (716-П, 3-МР) по классификации ИТ/ИБ-рисков и методам тестирования, которая отлично подходит для регулирования ИИ.

Права граждан • Проблема: Общая декларация прав есть, но конкретных механизмов оспаривания решений, принятых ИИ, нет.

• Что нужно: Внедрить «право на человеческое вмешательство». Обеспечить возможность требовать пересмотра решения ИИ-алгоритма человеком. Например, закрепить за клиентом финансовой организации право требовать пересмотра результатов кредитного ИИ-скоринга живым оператором.

Маркировка ИИ-контента • Проблема: Сейчас указано лишь обязательство соцсетей добавить функционал для маркировки ИИ-контента. Для самих авторов таких обязанностей нет.

• Что нужно: Расширить маркировку на любые автоматизированные ИИ-взаимодействия с пользователями. Это снизит вероятность введения клиентов в заблуждение. Возможность оспаривания такой маркировки обеспечивается правами граждан из п.2

В этом посте были ссылки, но мы их удалили по правилам Сетки