Исследователь Джейкоб Коксон покинул Anthropic и решил уйти из индустрии ИИ из-за опасений относительно будущего сверхмощных систем.

Коксон считает, что крупнейшие лаборатории слишком быстро движутся к созданию самоулучшающегося сверхинтеллекта, не имея надёжного способа гарантировать контроль над ним.

Некоторые исследователи Anthropic публично поддержали серьёзность этих опасений. Однако утверждение, что сегодняшний Claude уже способен свободно «клонировать себя» через интернет и его невозможно отключить, было бы слишком сильным: речь прежде всего о потенциальных возможностях будущих систем.