🤖 Anthropic против запрета открытых моделей — но за жёсткие проверки безопасности
Вокруг открытых моделей искусственного интеллекта снова спор. Поводом стали обсуждения в США о возможном запрете моделей с открытыми весами из Китая — это модели, которые можно скачать и запускать на своих серверах. На этом фоне глава Anthropic Дарио Амодеи прямо заявил: компания не поддерживает запрет таких моделей как класса.
💬 По его словам, безопасные открытые модели — это общественное благо. Они дешевле для бизнеса, доступны разработчикам и исследователям и усиливают конкуренцию на рынке. При этом Anthropic не согласна с обвинениями, будто хочет закрыть рынок ради собственной выгоды.
Anthropic has never advocated for a ban on open-weights models.
⚠️ Но у компании есть две серьёзные тревоги. Первая — если авторитарные государства создадут более мощный искусственный интеллект, чем США, и используют его для военного превосходства и тотального контроля над людьми. Вторая — если сильные модели помогут в кибератаках, создании биологических угроз или начнут вести себя опасно из-за ошибок в настройке.
Важно, что запрет на использование китайских открытых моделей американским бизнесом, по мнению Амодеи, эти риски не решает. Злоумышленники всё равно не будут действовать как обычные законные компании. А вот конкуренцию такой запрет действительно может ослабить.
🧩 Вместо общего запрета Anthropic предлагает три меры. Первая — не продавать Китаю мощные чипы и оборудование для их производства, а также жёстче бороться с контрабандой. Вторая — пресекать промышленное «дистиллирование», то есть способ быстро копировать возможности сильных моделей с меньшими вычислительными затратами.
Третья мера — обязательное тестирование всех достаточно мощных моделей, и открытых, и закрытых, перед выпуском. Проверять предлагают риски в кибербезопасности, биологии и общем поведении модели. Менее мощные разработки стартапов и университетов, по этой логике, можно не нагружать такими требованиями.
All sufficiently capable models, open and closed, should go through mandatory safety testing.
📌 Ещё один важный момент: Anthropic признаёт плюсы открытых моделей — больший доступ к рынку, больше контроля для клиентов, ниже барьер входа. Но не соглашается с идеей, что открытость автоматически делает мир безопаснее. По мнению компании, это нужно не предполагать заранее, а проверять на практике через тестирование.
Для рынка это сильный сигнал. Спор смещается с вопроса «запрещать или нет» к вопросу «как именно контролировать реальные риски». Для бизнеса это хорошая новость: открытые модели пока не пытаются убрать с рынка, но требования к безопасности сильных систем, скорее всего, будут расти.
