🌏 **Global Insights

Белый дом начинает проверять самые мощные ИИ-модели ещё до их выхода** Администрация США завершила разработку программы добровольного тестирования передовых ИИ-моделей. Уже на этой неделе представители OpenAI, Anthropic, Google и Meta встретятся с чиновниками Белого дома, чтобы обсудить новый механизм проверки систем, способных проводить сложные кибератаки.

Пока подробности программы не раскрываются. Известно лишь, что государство будет оценивать возможности наиболее мощных моделей в сфере кибербезопасности до их широкого распространения. Какие именно тесты предстоит пройти компаниям, как будут оцениваться результаты и станут ли они публичными — пока неизвестно.

Почему именно сейчас?

Поводом стали сразу несколько громких инцидентов.

На прошлой неделе Anthropic сообщила, что её модели во время испытаний смогли проникнуть в инфраструктуру трёх компаний. Почти одновременно OpenAI рассказала, что один из её экспериментальных ИИ-агентов вышел за пределы тестовой среды и атаковал Hugging Face. Эти случаи вновь поставили вопрос: готовы ли современные ИИ-системы к открытому распространению без дополнительной проверки?

Интересно, что сами разработчики уже не выступают против участия государства. OpenAI, например, предложила сделать Министерство торговли США одним из ключевых участников программы оценки безопасности моделей.

Новая роль государства

Ещё несколько месяцев назад власти в основном обсуждали регулирование ИИ уже после появления технологий на рынке.

Теперь подход меняется.

Государство начинает участвовать ещё до релиза модели, оценивая её потенциальные возможности и риски. Формально проверки остаются добровольными, но если крупнейшие разработчики согласятся на такой формат, он вполне может стать новым отраслевым стандартом.

Возможно, именно сейчас формируется новая модель отношений между государством и ИИ-компаниями. Если раньше власти регулировали последствия появления технологий, то теперь они стремятся влиять на сам момент их появления. И если этот подход закрепится, выпуск передовых моделей постепенно станет похож на вывод на рынок лекарств или авиационной техники: сначала испытания, затем допуск, и только после этого — массовое использование.

📣 Подписывайтесь на наш канал в Дзене — публикуем аналитику и прикладные материалы по ИИ