Что будет с промптом агента, если у него не 5 навыков, а 50? Обычно — раздутый контекст и деградация ответов, потому что все инструкции лежат в системном промпте целиком.
В Hermes Agent (фреймворк NousResearch) эту проблему решили не мощностью модели, а архитектурой: каждый навык хранится как папка с файлом SKILL.md, а агенту в промпт по умолчанию попадает только его имя и одна строка описания — это называется progressive disclosure.
Цифры такие: реестр из всех навыков библиотеки, даже большой, занимает примерно 3 тысячи токенов. Полный SKILL.md подгружается только когда агент сам решает, что навык релевантен запросу. А если внутри навыка есть ещё вложенные référence-файлы — они подтягиваются ещё на уровень глубже, отдельным запросом.
Мы сейчас собираем именно такую библиотеку — психологические кейсы, методики, чек-листы для тренажёра психологов, и с самого начала было понятно, что просто свалить всё в один промпт нельзя.
Хорошая новость: не нужно изобретать свой велосипед для этого — механизм уже есть в фреймворке, на котором строим.
У кого есть свои агенты с растущей библиотекой навыков — как вы решали проблему раздутого контекста? Делили промпт руками или тоже нашли готовый механизм?