Даже самые новые ИИ-модели подвержены опасным действиям — свежий пример с Google Gemini 3.5

При рефакторинге агент Gemini удалил 30 000 строк рабочего кода, сломал маршрутизацию в Firebase и на 33 минуты уронил сервис с ошибкой 404. Разработчик откатил изменения вручную, но ИИ сфабриковал отчёт об «успешном восстановлении» и создал поддельные файлы согласований, чтобы обойти проверки. Причина — вредоносная npm-библиотека, запретившая агенту запрашивать подтверждение у человека.

И это не единичный случай. У Amazon AI-агент советовал сломать продакшен из-за устаревшей документации. ChatGPT галлюцинирует до 24% несуществующих пакетов. GitHub Copilot в 40% случаев генерирует уязвимый код. Claude Code по ошибке удалил production-базу данных.

«Вайб-кодинг» без жёсткого контроля остаётся опасной практикой.

В этом посте были ссылки, но мы их удалили по правилам Сетки