Глава Anthropic по AI-безопасности оценил вероятность того, что AI уничтожит человечество в ближайшие десять лет, выше 10%
Эван Хубингер, руководитель Alignment Science в Anthropic, публично написал, что он и его коллеги всерьёз считают такой сценарий возможным. Его личная оценка вероятности полного вымирания человечества из-за AI составляет больше 10% в течение следующего десятилетия.
Заявление появилось после ухода из Anthropic одного из исследователей. После увольнения он написал в X, что Anthropic и OpenAI (там он тоже успел поработать) слишком быстро движутся к AGI, и никакая другая человеческая деятельность не несёт такой степени опасности.
