🇨🇳 Китай опубликовал фреймворк по агентным ИИ

Китай сделал один из первых шагов к системному описанию и регулированию агентных ИИ. Государственное управление по вопросам киберпространства, Госкомитет по развитию и реформам и Министерство промышленности и информатизации КНР выпустили документ об упорядоченном применении и инновационном развитии интеллектуальных агентов.

💡Главная идея документа состоит в том, что агентный ИИ рассматривается не как «чат-бот нового поколения», а как отдельный класс ИИ-систем. Такие системы способны не только отвечать на запросы, но и самостоятельно воспринимать среду, запоминать информацию, принимать решения, взаимодействовать с пользователем и выполнять действия.

1️⃣ Что Китай понимает под агентным ИИ? В документе интеллектуальный агент описывается через пять ключевых возможностей: 🟦 автономное восприятие; 🟦 память; 🟦 принятие решений; 🟦 взаимодействие; 🟦 исполнение действий.

Именно переход от генерации ответа к выполнению действий делает такие системы отдельным объектом регулирования.

2️⃣ Где планируется применять агентные ИИ? Китай делает ставку на практическое внедрение агентных систем в конкретные сферы, включая научные исследования, промышленность, энергетику, транспорт, финансы, образование, медицину, государственные и судебные сервисы, общественную безопасность и городское управление.

3️⃣ Как предлагается ограничивать автономность? Ключевой блок фреймворка посвящен пределам полномочий агентных систем. Документ предлагает разграничивать: 🟦 решения, которые должен принимать только человек; 🟦 действия, которые агент может выполнять только по поручению пользователя; 🟦 задачи, которые могут быть переданы агенту автономно.

Это важный сдвиг, где регулирование строится не только вокруг качества модели, но и вокруг того, какие действия система вправе совершать в реальной цифровой или физической среде.

4️⃣ Как обеспечивается контроль? Отдельный акцент сделан на управляемости и прослеживаемости агентных ИИ. Для значимых сценариев предполагаются поведенческие ограничения, аудит действий, фиксация логов и возможность проверить, что именно сделал агент, в каком контексте и на каком основании.

Это особенно важно для систем, которые получают доступ к внешним инструментам, данным, платежам, корпоративным системам или публичным сервисам.

5️⃣ Как оцениваются риски? Китай предлагает развивать классификацию агентных систем с учетом сферы применения и потенциального воздействия. Для чувствительных отраслей могут использоваться более строгие механизмы: 🟦 регистрация; 🟦 тестирование; 🟦 оценка безопасности; 🟦 отзыв проблемных продуктов.

Для низкорисковых сценариев предполагается более мягкая модель: самопроверка, информирование пользователей, платформенное управление и отраслевое саморегулирование.

6️⃣ Почему это больше, чем документ об ИИ-агентах? Отдельный интересный блок касается инфраструктуры для взаимодействия агентов между собой: стандартов, протоколов, цифровой идентичности агентов, доверенного обмена данными и механизмов разрешения конфликтов.

🔍Это уже не просто регулирование отдельных ИИ-продуктов, а попытка заранее описать будущую среду, где множество агентов будет взаимодействовать с людьми, платформами, устройствами и друг с другом.