Читал одну новость и в голове всплыл фильм "Субстанция". В нем есть довольно простая идея: человек пытается стать лучшей версией себя. Моложе. Красивее. Успешнее. Эффективнее...

А что если однажды создавать улучшенную версию себя сможет не только человек? Сразу оговорюсь: AI пока ничего не хочет. У него нет амбиций, мечты стать лучше или кризиса среднего возраста (везёт же) 😁

Anthropic показывает, что AI постепенно перестаёт быть просто инструментом, он уже серьёзно ускоряет разработку самого AI.

Следующий качественный рубеж, когда AI-системы смогут выполнить большую часть исследований самостоятельно: придумывать эксперименты, написать код, проанализировать результаты и создать следующие системы.

И называют это - recursive self-improvement (рекурсивное самоулучшение).

Например, уже сегодня Claude участвует более чем в 90% работы по AI R&D в Anthropic, а в 26% случаев, по оценке компании, ведёт работу от начал до конца, а не просто помогает человеку.

Т.е. раньше мы представляли прогресс так: человек → инструмент → более производительный человек

А теперь появляется потенциально другая цепочка: человек → AI → улучшенный AI → ещё более улучшенный AI

Звучит как фантастика. И Anthropic подчёркивает: до полноценного рекурсивного самоулучшения ещё далеко. Выдыхаем )))

И тогда главный вопрос уже не в том, насколько умным станет очередной AI. А в том, сможет ли он участвовать в создании следующей версии себя быстрее, чем мы успеем понять, что именно мы создали?

Если привести аналогии с «Субстанция», то от этого становится немного жутко. Такое совершенствование в фильме стало трагедией.

Посмотрели бы альтернативный сценарии фильма под названием "Субстанция: AI"? Лично у меня оригинал оставил неоднозначные впечатления.