Self-leaning память L4: как AI-агент защищает от деградации
Обычная память AI-агента сохраняет факты и извлекает их по релевантности. Но со временем накапливаются устаревшие знания, противоречия и ошибки консолидации. Агент начинает использовать неверный контекст и повторять прежние ошибки.
L4 — это архитектурный подход, в котором память не только обновляет знания, но и совершенствует политики их сохранения, извлечения и применения.
Цикл самоулучшения 1. Signal Detection → 2. Conflict Isolation → 3. Policy Adaptation → 4. CI Evaluation → 5. Deployment / Rollback
1. Signal Detection — обнаружение ошибки Триггером становится исправление пользователя, падение метрик качества или провал Red-Team-теста. Система фиксирует проблему и определяет затронутую область памяти.
2. Conflict Isolation — изоляция конфликта Система находит противоречащие друг другу атомы памяти. Устаревшие знания получают статус deprecated или пониженный score достоверности. История изменений сохраняется, а данные не удаляются вслепую.
3. Policy Adaptation — адаптация политик Изменяется не только содержимое памяти, но и правила работы с ней: алгоритмы retrieval, приоритеты источников, фильтры и инструкции сборщика контекста. Например, после подтверждённого перехода с PostgreSQL на ClickHouse агент должен не просто сохранить новый факт, но и перестать извлекать старые сведения как актуальные.
4. CI Evaluation — проверка кандидата Изменения применяются к изолированному снапшоту графа памяти. На нём запускаются: Retrieval Quality / Hit Rate — качество извлечения нужных фактов. Regression Tests — отсутствие ухудшения ранее работавших сценариев. Red-Team Tests — устойчивость к инъекциям через память и конфликтам данных. Latency & Context Size — задержка и объём передаваемого контекста.
5. Deployment / Rollback — применение или откат Если кандидат проходит проверки, система атомарно переключает активную версию памяти на новый снапшот. Если метрики ухудшились, изменения отклоняются и сохраняется предыдущая стабильная версия. Почему важны снапшоты? Консолидация сжимает эпизоды в обобщённые знания. При этом могут теряться важные детали, возникать ложные обобщения и разрушаться связи между фактами. Версионирование и откат позволяют экспериментировать с памятью, не подвергая production неконтролируемым изменениям.
Главный принцип Исправление должно менять не только факт, но и механизм, который привёл к ошибке.
L4 превращает память из пассивного хранилища в проверяемый контур обратной связи: обнаружение ошибки → локализация конфликта → изменение политик → тестирование → применение или откат. Это снижает риск накопительной деградации, но не устраняет его автоматически. Результат зависит от полноты тестов, качества метрик, безопасности политик и способности системы обнаруживать ошибки.
Самоулучшение без верификации — источник новых ошибок. Самоулучшение через CI, изолированными снапшотами и rollback — инженерный механизм управления качеством памяти. L3 создаёт управляемую и проверяемую память, а L4 автоматизирует улучшение механизмов её работы