🔥 Как агент «съел» 30 миллионов токенов за пару часов Поймал любопытный кейс при работе с агентом на моделях DeepSeek 😅
Запустил OpenClaw на, казалось бы, простой задаче — и дальше началось что-то странное. Агент буквально ушёл в бесконечный поток рассуждений: генерирует и генерирует, не останавливается, не даёт вмешаться. В итоге — несколько часов «работы» и минус 30 млн токенов.
Это та сторона агентных систем, о которой редко говорят прямо: агенты мыслят циклами.
Каждая итерация — это новый контекст. Каждый новый контекст — полный промпт, история, инструменты. Умножьте это на сотни шагов — и получите токеновый апокалипсис.
30 млн токенов — это примерно: — 📚 около 40 полноценных романов — 💬 ~150 000 сообщений в чате — 💸 всего пара часов работы агента в продакшене
Учусь на собственных ошибках. Дорого, зато наглядно 😅
Кстати, на моделях через Ollama поведение заметно стабильнее — по ощущениям, они лучше контролируют такие «зацикливания».