EU AI Act: как Европа предложила один из первых риск-ориентированных подход к управлению AI.

В прошлый раз я обещал, что мы разберём ключевые риски AI через закон EU AI Act. Время свои обещания исполнять). EU AI Act - один из первых в мире комплексных регламентов по AI тематике. Его главный принцип - чем выше риск, тем строже правила и выше требования. Регламент выделяет четыре уровня риска: 1) Недопустимый риск - он полностью запрещен. Примеры: социальный скоринг, манипуляции, биометрическая слежка в реальном времени; 2) Высокий риск - он требует жёсткого регулирования. Примеры: Использование AI систем в найме, кредитном скоринге, медицине, критической инфраструктуре. К моделям данного уровня риска применяются следующие требования: наличие систем управления рисками, управление данными, технической документация. Дополнительно требуется человеческий надзор (HITL - Human in the Loop) для всех критичных решений, которые нельзя откатить назад или которые влияют на людей, бизнес. 3) Ограниченный риск - он требует прозрачности для пользователей и регуляторов. Примеры: чат-боты, распознавание эмоций. Компания обязана сообщить пользователю, что он взаимодействует с AI. Данный тип риска требует внедрение логирования всех запросов и действий, а также автоматизированный контроль. 4) Минимальный риск - дополнительные требования к ним не предъявляются. Примеры: спам-фильтры, AI в играх. EU AI Act требует управления данными для AI высокого риска: обучающие данные должны быть релевантными, репрезентативными, без bias. Это ровно то, за что отвечают DG-эксперты: качество данных, lineage, метаданные, контроль доступа, владельцы. Как я и писал ранее, Data Governance - это фундамент AI Governance. Интересно ваше мнение, коллеги: EU AI Act — это рабочий и масштабируемый шаблон для глобального регулирования AI или он слишком строг для инноваций и развития? В следующий раз поговорить чуть более подробно про основные риски, связанные с AI: галюцинации, bias, утечки данных, prompt injection и другие. Краткое и по делу. Спасибо за внимание! #AIGovernance #EUAIAct #DataGovernance #AI #DataManagement