Рекурсия, к которой мы идем
Сейчас будет не аллармизм. Хочу порассуждать о недалеком будущем. "Привет вайбкодерам!"
Пазл 1
Stack Overflow почти перестал получать новые вопросы. В пиковом 2014 году - около 200 тысяч в месяц. К концу 2025 - три-четыре тысячи. К июлю 2026 - 1624. Падение на 98,5% от пика.
Трафик упал меньше. На 40-50%. Сайт по-прежнему читают. Архив жив. Люди приходят. Но не спрашивают. Активность создания нового контента схлопнулась. А чтение осталось.
Пазл 2
GitHub вырос. Цифра "2,9 миллиарда коммитов в месяц" - это инфраструктурная нагрузка. Приватные репозитории, CI-генерация, зеркала, временные ветки агентов. Публичный отчёт GitHub за 2025 год - 986 миллионов коммитов за год. Около 82 миллионов в месяц. Обе цифры верны. Просто измеряют разное.
Copilot генерирует около 46% кода у тех, кто им пользуется. Принимается примерно 30% предложений. Коммиты, определяемые как "написанные агентом", - около 320 тысяч в месяц. Из 2,9 миллиарда. Это 0,01%. Тут правда стоит оговориться - все зависит от алгоритмов оценки. Но полагаю, что в реальности процент больше будет.
Сложим пазлы?
"ИИ пишет код для ИИ" - пока не факт. Это направление. Тренд. Но механизм уже виден. И он печальней, чем кажется.
Сначала ИИ учился на данных, созданных человеком. Код с GitHub. Ответы со Stack Overflow. Документация. Его знания - дистилляция человеческого опыта. Ошибок. Находок. Ответы модели - экстраполяция человеческой логики.
Потом модель начала генерировать код. Код попал обратно в репозитории. Появился новый слой данных. Человек плюс ИИ. Смешанный. Уже не чистый. Следующая версия модели учится на этом слое. Её человеческая база размывается. Она учится не у мастеров. А у их старательного, но бездушного подмастерья. У самой себя из прошлого поколения.
С каждым циклом доля чисто человеческих данных стремится к нулю. Мы получаем модель, обученную на интерпретации интерпретации интерпретации. Как копия копии копии на VHS-кассете. Накапливается не знание. Накапливаются артефакты сжатия. Галлюцинаторные паттерны. Они кажутся валидными. Потому что статистически вероятны. Но лишены исходной инженерной целесообразности. Это называется модельным коллапсом. Дегенеративным обучением. Но проблема глубже.
Человек перестал быть субъектом обучения системы. Он стал шумом в петле обратной связи. Рекурсивно самоподдерживающийся интеллект больше не нуждается в нём как в источнике. Знание перестаёт быть результатом человеческого преодоления. Оно становится продуктом автогенной симуляции смыслов.
Вопрос о доверии к мёржу отпадает. Потому что исчезает сама возможность верификации по человеческим критериям. Верифицировать такой код можно только другим ИИ. Замкнутая экосистема взаимных галлюцинаций. Каждый проверяет каждого. И никто не проверяет по-настоящему.
И вот здесь возвращается то, с чего мы начали
Stack Overflow был местом, где опыт превращался в знание. Где боль одного экономила время другому. Теперь люди перестали спрашивать. ИИ отвечает сразу. И не осуждает. Оба фактора работают: ИИ стал и лучше, и вежливее.
Знание больше не рождается в обсуждении. Оно приходит из модели. Но модель не генерирует знание из ничего. Она экстрагирует его из данных. А данные - это тот самый Stack Overflow. Та самая документация. Тот самый человеческий код. Цикл намечается. Человек писал. ИИ учился. ИИ помогает человеку. Петля обратной связи через синтетические данные существует. Но насколько она доминирует - открытый вопрос.
Человек остался. Но устал. Он сидит в цикле. Нажимает "одобрить". Не понимает до конца, что одобряет. И знает, что не понимает. Это новая норма.
Да, я согласен - доверие падает. С 40% до 29% за год по статистике. Code churn вырос на 41%. Код, сгенерированный ИИ, чаще переписывают. Люди используют, но проверяют. Принимают, но не верят.
Цепочка код - знания - код пока включает человека. Но звено "обсуждение" выпало. Опыт больше не передаётся через разговор. Он передаётся через модель. А модель не объясняет. Она воспроизводит.
Тренд идёт. Рекурсия приближается. Она ещё не здесь. Но звено, где опыт становился общим, уже сломано. И механизм подмены запущен.
· 11.09
Система становится закрытой, получается? Или движется к этому?
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 11.09
Не совсем.
Если (!!!) мои рассуждения верны, то мы на каком-то этапе развития получаем структуру, где человек становится "шумом", а новое от ИИ - лишь уже переработанное нейросетью старое.
ИИ написал код по запросу ИИ выложил код на гитхаб ИИ изучил код с гитхаба ИИ написал код по запросу
Роль человека - проверить что ИИ сгенерил и согласиться на отправку изменений в основной код. То есть верификация. Но её уже стали также деллигировать ИИ.
Видите замкнутость "знания"? - человек выступает лишь инициатором новой генерации, но сам качественно новых знаний не получает, и на выходе также не получает принципиально нового. Смело отправляет это в репозиторий, на котором учится... новый ИИ.
Но опять же - я не преткендую тут на истину в первой инстанции. Написанное - лишь рассуждения, основанные на экстраполяции данных из сети (относительно StackOverflow и GitHub).
P.S. "У попа была собака" если более кратко. :)
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён