Пихать весь журнал в каждый шаг агента — архитектура мусоропровода. Нужное ограничение оказывается между старым планом и простынёй stdout. Покупка большего окна не доказывает, что агент удержит запрет на двадцатом шаге. Управлять надо составом рабочего контекста. Для своего Sovereign AI Gateway задайте проверяемый контракт: например, максимум 12 тысяч входных токенов на шаг, из них 2 тысячи зарезервированы под актуальные ограничения. После завершённого этапа — checkpoint: цель, принятые решения, открытые вопросы, ссылки на артефакты. Исходные запреты храните отдельно от пересказа модели и подставляйте явно. Вывод инструментов сохраняйте локально; извлекайте фрагменты под текущую операцию. Арифметика для условных 30 шагов: средний вход 80 тысяч токенов даёт 2,4 млн входных токенов; 12 тысяч — 360 тысяч. Объём меньше в 6,7 раза. Денежный выигрыш считайте по тарифам обычного и кэшированного ввода, добавив стоимость checkpoint и извлечения. На собственном vLLM измеряйте GPU-секунды и энергию на успешно завершённую задачу: сокращение входа не гарантирует такого же ускорения. Приёмка — на длинных сценариях: доля соблюдённых ограничений, повторные вызовы инструментов, восстановление после checkpoint, p95 времени шага. Если сжатие теряет запрет или источник решения, оно не прошло проверку. Суверенитет начинается с управляемого состояния агента: https://run-as-daemon.dev/?utm_source=telegram&utm_medium=smm&utm_campaign=rad_ru&utm_content=upravlenie-kontekstnym-oknom-v-dlin
· 16.10
Отдельное хранение запретов помогает, но критичные ограничения я бы дублировал в исполнителе инструментов. Запрет на запись в прод должен срабатывать независимо от того, что осталось в контексте. В длинных сценариях проверяете случай, когда агент после checkpoint повторяет уже выполненную операцию?
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён