Генерация кода с AI: о скрытых рисках в production

В статье по ссылке описан показательный случай: senior-разработчик обнаруживает, что Claude Code сократил разработку задачи с недели до двух дней. Но позже сгенерированный функционал дважды привел к сбоям в production. На первый взгляд код выглядел правдоподобно, но содержал труднообнаружимые ошибки, а глубоко проверять реализацию AI оказалось значительно сложнее, чем собственную. (https://calnewport.com/on-ai-coding-and-its-discontents/).

Код выглядел правдоподобно, но обнаружить тонкие дефекты было сложно, поскольку разработчик не сформировал достаточную ментальну модель кода, который писал не он.

Я постоянно прихожу к тем же выводам. AI требует четкого инженерного понимания, как доожен выглядеть код. Ускорение без полноценной ментальной модели системы приводит в дорогостоящим ошибкам в production и переработке.

Мне интересно, тут есть разработчики, которые интенсивно используют AI для production-разработки, особенно в незнакомых сложных предметных областях или при реализации нового крупного функционала.

Насколько вам удаётся делегировать реализацию AI и при этом действительно понимать, проверять и полностью отвечать за результат?