Кажется, что ещё немного, и нейросети заменят программистов. Они уже пишут код, генерируют тесты и чинят баги. Но если присмотреться к реальным данным, картина становится не такой радужной.

Код — это лишь четверть работы

Главное заблуждение в том, что программирование сводится к написанию строк кода. По данным консалтинговой компании Bain & Company, написание и тестирование кода занимает всего 25–35% от общего времени разработки. Остальное — это анализ требований, проектирование архитектуры, планирование, развёртывание и поддержка. ИИ ускоряет только один этап, но не весь процесс целиком.

ИИ не видит систему целиком

Большая языковая модель работает в рамках своего контекстного окна — грубо говоря, объёма оперативной памяти. Она может предложить работоспособное решение для отдельной функции. Но когда дело доходит до большой кодовой базы, где всё связано между собой, ИИ теряет нить. Он не видит, как его код повлияет на другие модули, на инфраструктуру, на безопасность.

Senior-разработчик сравнил ИИ с младшим специалистом: «Быстрый, аккуратный, неутомимый. Но ему не стоит доверять архитектурные решения без присмотра». Последние 20% работы, которые требуют инженерного мышления, ИИ не осилит.

Галлюцинации в коде — это реальная угроза

ИИ не «знает» код. Он предсказывает, какой символ вероятнее всего идёт следующим. Иногда он выдумывает несуществующие библиотеки. Иногда использует функции, которых нет в API. Эти ошибки называются галлюцинациями.

Исследование IEEE показало, что модели часто генерируют код с несуществующими пакетами или неправильно применяют логику безопасности. Разработчик, который доверяет ИИ, может вставить в проект уязвимость, даже не заметив этого. Аналитики предупреждают: это открывает путь для атак на цепочку поставок, когда злоумышленники создают реальные пакеты с именами, которые ИИ выдумал.

Безопасность страдает сильнее всего

Компания Veracode протестировала более 100 моделей на 80 задачах по программированию. Результат: 45% сгенерированного кода содержало как минимум одну эксплуатируемую уязвимость. В 86% случаев ИИ не смог предотвратить межсайтовый скриптинг. Размер и новизна модели не помогли — результаты не улучшались.

Другое исследование показало, что разработчики, использующие ИИ, создают в 10 раз больше проблем с безопасностью, чем те, кто работает без него.

ИИ не ускоряет, а замедляет

Казалось бы, генерация кода должна экономить время. Но исследование METR с участием опытных разработчиков показало обратное. Те, кто использовал ИИ, выполняли задачи на 19% дольше. При этом им казалось, что они работают на 20% быстрее.

Причина проста. Разработчики тратят время на проверку и исправление ошибок, которые оставил ИИ. Вместо того чтобы писать код, они отлаживают чужой. В итоге получается «AI-generated legacy code» — быстро собранный продукт, который потом невозможно поддерживать.

Провалы на уровне бизнеса

Исследование MIT NANDA проанализировало более 300 внедрений генеративного ИИ в компаниях. Результат ошеломляющий: 95% пилотных проектов не дали измеримого влияния на прибыль. Несмотря на 30–40 миллиардов долларов инвестиций, эффект оказался нулевым.

Gartner прогнозирует, что более 40% проектов агентного ИИ будут закрыты к концу 2027 года. А исследование Carnegie Mellon показало, что ИИ-агенты проваливают 70% многошаговых задач.

Что это значит для нас

ИИ — это мощный инструмент. Он может написать черновик функции, сгенерировать тесты, помочь с рутиной. Но он не заменит инженера, который думает системно, принимает архитектурные решения и несёт ответственность за результат.

Те, кто ждёт, что ИИ решит все проблемы, скорее всего, разочаруются. Те, кто научится использовать его как помощника, но не доверять слепо, выиграют.