Self-leaning память L4: как AI-агент защищает от деградации

Обычная память AI-агента сохраняет факты и извлекает их по релевантности. Но со временем накапливаются устаревшие знания, противоречия и ошибки консолидации. Агент начинает использовать неверный контекст и повторять прежние ошибки.

L4 — это архитектурный подход, в котором память не только обновляет знания, но и совершенствует политики их сохранения, извлечения и применения.

Цикл самоулучшения 1. Signal Detection → 2. Conflict Isolation → 3. Policy Adaptation → 4. CI Evaluation → 5. Deployment / Rollback

1. Signal Detection — обнаружение ошибки Триггером становится исправление пользователя, падение метрик качества или провал Red-Team-теста. Система фиксирует проблему и определяет затронутую область памяти.

2. Conflict Isolation — изоляция конфликта Система находит противоречащие друг другу атомы памяти. Устаревшие знания получают статус deprecated или пониженный score достоверности. История изменений сохраняется, а данные не удаляются вслепую.

3. Policy Adaptation — адаптация политик Изменяется не только содержимое памяти, но и правила работы с ней: алгоритмы retrieval, приоритеты источников, фильтры и инструкции сборщика контекста. Например, после подтверждённого перехода с PostgreSQL на ClickHouse агент должен не просто сохранить новый факт, но и перестать извлекать старые сведения как актуальные.

4. CI Evaluation — проверка кандидата Изменения применяются к изолированному снапшоту графа памяти. На нём запускаются: Retrieval Quality / Hit Rate — качество извлечения нужных фактов. Regression Tests — отсутствие ухудшения ранее работавших сценариев. Red-Team Tests — устойчивость к инъекциям через память и конфликтам данных. Latency & Context Size — задержка и объём передаваемого контекста.

5. Deployment / Rollback — применение или откат Если кандидат проходит проверки, система атомарно переключает активную версию памяти на новый снапшот. Если метрики ухудшились, изменения отклоняются и сохраняется предыдущая стабильная версия. Почему важны снапшоты? Консолидация сжимает эпизоды в обобщённые знания. При этом могут теряться важные детали, возникать ложные обобщения и разрушаться связи между фактами. Версионирование и откат позволяют экспериментировать с памятью, не подвергая production неконтролируемым изменениям.

Главный принцип Исправление должно менять не только факт, но и механизм, который привёл к ошибке.

L4 превращает память из пассивного хранилища в проверяемый контур обратной связи: обнаружение ошибки → локализация конфликта → изменение политик → тестирование → применение или откат. Это снижает риск накопительной деградации, но не устраняет его автоматически. Результат зависит от полноты тестов, качества метрик, безопасности политик и способности системы обнаруживать ошибки.

Самоулучшение без верификации — источник новых ошибок. Самоулучшение через CI, изолированными снапшотами и rollback — инженерный механизм управления качеством памяти. L3 создаёт управляемую и проверяемую память, а L4 автоматизирует улучшение механизмов её работы

Self-leaning память L4: как AI-агент защищает от деградации | Сетка — социальная сеть от hh.ru Self-leaning память L4: как AI-агент защищает от деградации | Сетка — социальная сеть от hh.ru