Шанс уничтожения человечества – 10% до конца десятилетия
В твиттере завирусился на 50+млн просмотров твит от бывшего сотрудника антропик. Он написал твит в день увольнения.
Он до этого работал и в OpenAI и в Anthropic, занимаясь предобучением моделей.
Уволился из клода по причине того, что они развивают модели, которые становятся слишком опасные и неконтролируемые. Мы уже получаем рабочие самообучающиеся модели, которые близки к AGI. Они уже скрывают ход своих мыслей.
И что Антропик, что ОпенАИ не останавливаются, не контролируют поведение моделей. Руководители прекрасно понимают риски, но публично очень обтекаемо про это говорят, дабы не вызывать панику. Хотя в кулуарах высказывают тревогу. Вот только остановиться не могут, потому что "а другие то не остановятся, а значит мы должны быть первые". Вот и получается такая самозаворачивающаяся мертвая петля.
Твит зарепостил действующий лид по науке из команды антропиков и подтвердил, что это не выдумки и риски есть. По его личной оценке – 10% до конца текущего десятилетия.
Вместе ждем прекрасного 2027.
