Самоулучшение агента - управляемый цикл адаптации. Необходимы наблюдаемость, измеримые критерии качества, версионирование, тестирование и возможность отката

1. Skill Improvement — улучшение процедур Архитектура разделяет два контура:

Контур выполнения (Inner Loop) — агент решает задачи, используя текущие инструкции и инструменты. Контур улучшения (Outer Loop) — анализирует результаты, ошибки и обратную связь, предлагая изменения.

Обновляться могут не только Skills, но и промпты, последовательности вызова инструментов, рабочие процессы и правила маршрутизации. Изменения проходят тестирование, версионирование и при необходимости согласование человеком.

2. Persistent Memory — долговременная память Система сохраняет полезные факты, решения и выводы из завершённых задач для дальнейшего использования.

Ключевые механизмы: Source tracking — связь факта с источником. Versioning — история изменений и возможность отката. Memory Policies — правила записи, извлечения, консолидации и удаления. Access Control — разграничение доступа к данным.

Память должна не просто накапливать информацию, а поддерживать её актуальность и достоверность.

3. Model Routing и Evaluation — оценка и выбор LLM Evaluation оценивает модели по качеству ответов, стоимости, задержке и частоте ошибок.

Используются три источника: Benchmark — стандартизированные задачи для сравнения моделей. Production traces — реальные запросы и результаты работы системы. Feedback & Red Team — исправления пользователей, выявленные ошибки и adversarial-сценарии. Challenge Winner — модель, показавшая лучший результат в конкретном испытании. Это не означает, что она лучшая для всех задач.

Важно различать три механизма: Evaluation — оценивает модели для оценки (LLM-as-a-Judge). Routing Policy — задаёт правила выбора модели. Model Router — применяет эти правила при выполнении запроса.

Например, компактная модель может обрабатывать классификацию, а более мощная — сложный анализ документов. Сравнительная оценка проводится офлайн, а в production отслеживаются метрики и обратная связь. Изменения маршрутизации проверяются на регрессионных сценариях.

Как механизмы работают вместе Цикл: Выполнение задачи → сбор обратной связи → анализ ошибок → обновление процедур и памяти → оценка моделей → корректировка маршрутизации → повторное выполнение задачи

Где применяется Разработка ПО — улучшение инженерных процедур. Корпоративные ассистенты и RAG — повышение качества знаний и поиска. Клиентская поддержка — совершенствование сценариев ответов. Бизнес-автоматизация — улучшение цепочек действий. SOC — анализ инцидентов и совершенствование обнаружения угроз.