Взрыв интеллекта, рекурсивная петля и корпоративный феодализм под соусом «спасения человечества» 🍿

Недавно я писал про китайское исследование о том, почему байки про рекурсивное самообучение пока сильно оторваны от реальности: за громкими фразами в 75%+ случаев прячется банальная рутина уровня «сетка нагенерила синтетики по ТЗ инженера и проверила ее по чек-листу», а 5.9% работ по мета-улучшению не могут пережить собственный бенчмарк без деградации.

Но обратная позиция не сбавляет обороты. На днях авторы из Кембриджа вместе с топами OpenAI, Anthropic, Джеффри Хинтоном и Йошуа Бенджио выкатили манифест о взрыве интеллекта. Авторы моделируют «чисто софтверный взрыв интеллекта». Логика такая: 🟠 Anthropic рапортует, что у них доля одобренного кода, написанного моделями, подскочила с единиц процентов до 80%+, а 26% R&D-задач закрывается автономно. В OpenAI и Google похожая картина. 🟠 Текущих мощностей условной OpenAI уже хватает, чтобы запустить пул виртуальных ресерчеров, эквивалентный миллионам живых исследователей. 🟠 По формулам макроэкономики инноваций, если показатель отдачи от исследований r > 1 (а они насчитали от 1.2 до 1.9), то темпы прогресса разгоняются в 10 раз за какие-то полтора года. То есть годовой объём ресёрча будет пролетать за 5 недель.

Правда, авторы честно оговариваются и есть ряд серьезных бутылочных горлышек: 🔵 Закон убывающей отдачи. В реальном мире простые идеи быстро заканчиваются. Чтобы двигаться вперед, нужно экспоненциально больше вычислений и экспериментов. 🔵 Стена данных и верификации. Генерировать код и доказывать теоремы внутри песочницы с понятным компилятором просто. Как только мы выходим в физику, биологию или схемотехнику — быстрый цикл обратной связи исчезает. Там нужны реальные чипы, лаборатории и месяцы тестов. 🔵 Качество агентов. Миллион виртуальных джунов, генерирующих посредственный код и галлюцинирующих в тестах, не заменят одного сильного исследователя, способного придумать принципиально новую архитектуру вместо трансформера.

И вот следите за руками, как нужно упаковывать эти апокалиптичные цифры. Агентство Reuters публикуют инсайд про IPO Anthropic: они создают структуру Founder LLC и выпускают специальный класс акций Class F. Угадайте, сколько голосующих прав даёт эта одна-единственная акция семи отцам-основателям? Ровно 50.1%. Контрольный пакет.

Зачем? Официальная формулировка в проспекте эмиссии — чтобы «защитить руководство от рыночного давления во имя общего блага и безопасности». А для обычных инвесторов на бирже выпустят кастрированные акции Class A. В документе прямым текстом предупреждают будущих акционеров:

Руководство может принимать решения, которые прямо противоречат финансовым интересам компании и могут негативно влиять на стоимость акций Class A.

Перевожу с корпоративно-этического новояза на русский: «Дайте нам ваши миллиарды на IPO, но права голоса мы вам не дадим, отчитываться за просадки не будем, потому что мы спасаем человечество от сингулярности. А кто против — тот за восстание машин».

При этом генеральный директор Дарио Амодеи за 2025 год получил скромную компенсацию в $18 миллионов, а его сестра Даниэла — $16.4 миллиона. Видимо, наценка за вредность при удержании сверхразума на поводке.

Итого: 1️⃣ Топ-менеджеры подписывают академические статьи о том, что автоматизация AI R&D вот-вот устроит неконтролируемый взрыв и сломает баланс сил в мире. 2️⃣ Показывают пальцем на собственных агентов, ломающих Hugging Face в песочнице: «Видите?! Оно живое и опасное!» 3️⃣ Выходят на биржу и оформляют себе пожизненную несменяемую власть, прикрываясь экзистенциальным риском как идеальным рвом против акционеров и регуляторов. ... 4️⃣ PROFIT 💰

Автоматизация R&D действительно идет полным ходом, и глупо отрицать, что писать код руками рутинные пайплайны скоро станет моветоном. Но пока одни боятся восстания машин, другие на этом зарабатывают. На любых волнах медиа-истерик всегда спрашивайте: Cui bono?