💬 Opinion Leaders Дарио Амодеи призывает замедлить развитие ИИ. Почему его позиция вызывает споры внутри индустрии

Дарио Амодеи, CEO и сооснователь Anthropic, одной из крупнейших AI-компаний, в сентябре выступил с необычным для руководителя технологической компании призывом: развивать самые мощные модели медленнее и уделять больше внимания безопасности.

Амодеи при этом не считает ИИ угрозой сам по себе. Напротив, он пишет о его потенциале ускорить экономический рост, помочь в лечении болезней и значительно расширить возможности человека. Но, по его мнению, скорость развития технологий уже создаёт риски, с которыми индустрия может не успевать справляться. Среди них он называет потерю контроля над AI-системами, кибератаки, биологические угрозы и масштабные изменения на рынке труда.

Что именно предлагает Амодеи?

Он выступает не за остановку развития ИИ, а за то, чтобы компании могли временно замедлять выпуск наиболее мощных моделей, если их возможности растут быстрее, чем системы безопасности.

Одно из предложений — независимые специалисты должны получать доступ к моделям и оценивать их возможности ещё до широкого запуска. Anthropic также готова внедрять дополнительные меры безопасности и призывает другие лаборатории делать то же самое.

Но внутри индустрии нет единого мнения

Сразу после публикации Амодеи его поддержали, среди прочих, CEO OpenAI Сэм Альтман и Илон Маск. Альтман согласился с необходимостью «pace the frontier» и заявил о планах использовать независимых оценщиков.

Однако уже в конце сентября появились признаки серьёзных разногласий. По данным The Wall Street Journal, руководители Nvidia и Meta в частном разговоре спрашивали Амодеи, почему он настолько резко публично говорит о рисках ИИ. Амодеи ответил, что компании должны честно рассказывать о возможностях своих моделей, а не преуменьшать потенциальные угрозы.

На той же встрече руководители AI-компаний договорились о принципах безопасности, но более масштабная идея отраслевого органа саморегулирования была отклонена: Дженсен Хуанг, Марк Цукерберг и Илон Маск опасались, что такая система может сосредоточить слишком много влияния в руках крупнейших AI-компаний.

Почему стоит прислушиваться к Амодеи?

Амодеи говорит не со стороны академического сообщества или регуляторов. Он руководит компанией, которая сама создаёт передовые AI-модели и участвует в той же технологической гонке, о рисках которой предупреждает.

Поэтому его позиция интересна прежде всего как взгляд изнутри индустрии. Она показывает, что спор сейчас идёт уже не только между сторонниками и противниками ИИ. Разногласия появляются непосредственно среди компаний, которые его разрабатывают: насколько быстро стоит двигаться, кто должен оценивать риски и где проходит граница между необходимой осторожностью и потерей технологического преимущества.

📣 Подписывайтесь на наш канал в Дзене — публикуем аналитику и прикладные материалы по ИИ