Создатели Claude боятся, что человек может потерять контроль над нейросетями ❌

Anthropic предложила создать международный механизм, который позволит замедлять или приостанавливать разработку ИИ-систем. В компании считают, что технологии развиваются настолько быстро, что человек может не успеть адаптироваться к изменениям.

Одной из самых главных угроз в компании называют ситуацию, когда ИИ начнёт самостоятельно улучшать алгоритмы.