У агента 331 инструмент. Звучит как богатство.

Считаем... Описания этих инструментов - схемы, которые модель должна видеть, чтобы знать, что умеет. Схемы занимают 302 килобайта. Это примерно 75 тысяч токенов, которые лежат в начале каждого запроса. Прям каждого и всегда.

Агент ещё ничего не сделал, а окно контекста уже занято на треть.

Дальше живой замер с соседнего агента. Три правки в конфиге: сузили набор инструментов, отключили пробу окружения, выключили режим размышления. Промпт упал с 15 266 токенов до 1 424. Медиана ответа - с 17 секунд до 7,7.

Важная деталь, которую легко слить в одну строку и потерять смысл. Это два разных рычага. Токены срезал узкий набор инструментов. Скорость дала выключенная модель размышления. Если мерить их вместе, вы не узнаете, что именно сработало, и в следующий раз повторить не сможете.

У себя я считал похожее. Три сотни скиллов в системе, но в контекст идут только имя и описание каждого - 25 тысяч токенов против 658 тысяч полного текста. Три с половиной процента. Поэтому экономить надо длиной описаний, а не количеством скиллов: сам скилл читается только когда понадобился.

Вывод, который я забрал: набор инструментов - это бюджет, а не список возможностей. Каждый лишний инструмент вы оплачиваете в каждом запросе до конца жизни агента.

Вы считали, сколько занимает контекст вашего агента до того, как он начал работу?