Amazon потратила лишние $2,5 млн, потому что ИИ-агент ошибался пять месяцев Financial Times пишет, что на внутренней встрече 28 июля сотрудники Amazon разбирали перерасходы на ИИ-агентах. Самый крупный случай: проект по проверке данных авторов и исполнителей вышел за бюджет на токены на $1,8 млн. Это 860% сверх плана. Агент выдавал ошибки, и причину нашли только через пять месяцев.

Ещё два случая помельче: финансовый аудит — лишние $541 тыс. Логистика и доставка — $134 тыс., там разобрались за две недели. В компании отметили, что это отдельные небольшие примеры, когда команды учатся друг у друга.

По словам сотрудников, раньше ошибка в коде обходилась дёшево, с автономными агентами она стала катастрофически дорогой. Потому что сломанный код падает, и об этом узнают в тот же день. Агент, который ошибается, продолжает работать: делает лишние запросы, повторяет попытки, тратит токены.

Счёт приходит в конце месяца, и в нём не написано, что именно пошло не так.

@osnovateli