10% на апокалипсис

Исследователь Джейкоб Коксон уволился после трех лет обучения моделей в OpenAI и Anthropic.

Причина банальная — он уверен, что ИИ нас уничтожит.

У себя в X он заявил, что обе компании на полном ходу несутся к самоулучшающемуся сверхинтеллекту, вообще не понимая, как будут его контролировать.

По его словам, индустрия буквально ставит на кон наши жизни.

На это отреагировал Эван Хубингер — руководитель направления безопасности в Anthropic.

И согласился.

Его личная оценка риска гибели человечества от ИИ в ближайшие 10 лет — выше 10%.

Затем Хубингер спокойно добавил, что вообще-то рабочего плана по сдерживанию такой штуки у Anthropic пока нет.

Ну просто картина маслом.

Разработчики жмут на газ и обсуждают, как бы сделать тормоза.

Мы с вами, если что, в салоне.