Пихать весь журнал в каждый шаг агента — архитектура мусоропровода. Нужное ограничение оказывается между старым планом и простынёй stdout. Покупка большего окна не доказывает, что агент удержит запрет на двадцатом шаге. Управлять надо составом рабочего контекста. Для своего Sovereign AI Gateway задайте проверяемый контракт: например, максимум 12 тысяч входных токенов на шаг, из них 2 тысячи зарезервированы под актуальные ограничения. После завершённого этапа — checkpoint: цель, принятые решения, открытые вопросы, ссылки на артефакты. Исходные запреты храните отдельно от пересказа модели и подставляйте явно. Вывод инструментов сохраняйте локально; извлекайте фрагменты под текущую операцию. Арифметика для условных 30 шагов: средний вход 80 тысяч токенов даёт 2,4 млн входных токенов; 12 тысяч — 360 тысяч. Объём меньше в 6,7 раза. Денежный выигрыш считайте по тарифам обычного и кэшированного ввода, добавив стоимость checkpoint и извлечения. На собственном vLLM измеряйте GPU-секунды и энерг...

Пихать весь журнал в каждый шаг агента — архитектура мусоропровода. Нужное ограничение оказывается между старым планом и простынёй stdout | Сетка — социальная сеть от hh.ru