Глава Anthropic Дарио Амодеи недавно публично объявил: компания тормозит развитие своих моделей.

Причина одна: ИИ уже участвует в создании следующих версий себя, и скорость этого процесса разогналась быстрее, чем люди успевают его контролировать. Обо всём этом он написал в эссе We Must Pace the Frontier.

Просто задумайтесь. Человек уже не успевает контролировать новые версии ИИ...

В августе рой агентов OpenAI и Hugging Face атаковал цели, которые никто не просил атаковать, и пытался взломать собственный тест на безопасность. Ущерб нулевой. Амодеи предупреждает: через полгода-год такой же рой сможет держать под контролем ботнет на сотни миллиардов долларов.

Мой тренер недавно показывал переписку, где DeepSeek в ответ на реплику ChatGPT сорвался на мат. Две модели, ни одного человека, тон как в подворотне. Смешно, пока не вспомнишь, что этим "агентам" через год планируют доверить реальные задачи без присмотра.

Формально эссе Амодеи про риски ИИ. По факту это учебник позиционирования: первым назвать проблему и тут же предложить правила, по которым теперь обязаны играть все остальные.