Сбой, который не видит мониторинг, зато видит кошелёк

В последнее время все чаще обсуждают, как сделать ИИ дешевле. Но истории почему-то всё больше не про дорогие модели. Они про баги, которые незаметно жгут деньги.

Пользователи Codex, Cursor и Reddit рассказывали примерно об одном и том же: агент зацикливался, повторял одни и те же действия или незаметно переключался на более дорогую модель. В итоге расходы росли, хотя формально всё работало.

Решили проверить у себя. полезли в логи. Нашли. 😭

Один из ботов отправлял в модель один и тот же запрос каждые четыре секунды. Получилось 1655 запросов (вместо 5 стандартных) и $1,45 расходов. Не катастрофа, но ...  Мониторинг ничего не показал - потому что сервис работал, а код просто продолжал делать то, что ему сказали.

Если тоже активно вайбкодите,  посмотрите всего три вещи: 🔘Есть ли ограничение на количество повторных попыток. 🔘Увеличивается ли пауза между ними или бот начинает молотить запросы без остановки. 🔘Узнаете ли вы вообще, если запросов к модели внезапно станет в десять раз больше обычного.

Кажется, именно такие проверки сейчас начинают экономить больше денег, чем бесконечные поиски модели на пару центов дешевле.

#ИИ #AI #Нейросети ——— #Агенты #Вайбкодинг ✍️ Подписывайтесь: @aiforproduct