Anthropic опубликовала исследование о «рекурсивном самоулучшении» ИИ

Это сценарии, при котором искусственный интеллект сможет самостоятельно проектировать и создавать свои следующие, более совершенные версии. По данным компании, ИИ уже активно участвует в собственной разработке: более 80% кода, попадающего в продакшн Anthropic, генерируется Claude, а продуктивность инженеров за последние годы выросла примерно в восемь раз.

Anthropic считает, что полностью автономное самоулучшение пока не достигнуто, но может наступить значительно раньше, чем к этому готовы государственные институты и общество.

Такой прорыв способен ускорить научные открытия и развитие технологий, однако одновременно повышает риск потери человеческого контроля над наиболее мощными ИИ-системами.

Поэтому компания призывает заранее обсуждать механизмы регулирования, безопасности и международной координации в эпоху саморазвивающегося ИИ

Источник: https://www.anthropic.com/institute/recursive-self-improvement