Жизненный цикл памяти AI-агента
Именно взаимодействие этапов и политик формирует управляемую архитектуру памяти AI-агента.
1. Запись (Write) Когда: при поступлении данных. Агент получает сообщение (от пользователя, другого агента, внешней системы или инструмента), результат инструмента или наблюдение и решает, что сохранить в краткосрочной либо долговременной памяти.
Политики(правила управления поведением системы): Write Policy — определяет, какую информацию сохранять, в каком формате и с какими метаданными. Protection Policy — контролирует права доступа и безопасность сохраняемых данных. Reconciliation Policy — выявляет противоречия с уже известными фактами и определяет правила их разрешения.
2. Извлечение (Retrieval) Когда: при обработке запроса, если требуется информация из памяти. Система ищет релевантные факты, оценивает их актуальность и достоверность, проверяет источники и права доступа.
Политики: Retrieval Policy — определяет стратегию поиска, ранжирования и отбора релевантных данных. Protection Policy — исключает извлечение информации, недоступной текущему пользователю или агенту. Aging & Decay Policy — учитывает устаревание данных и изменение их актуальности. Reconciliation Policy — помогает выявлять противоречия между найденными фактами.
3. Сборка контекста (Context Assembly) Когда: перед каждым вызовом LLM. Система объединяет инструкции, историю диалога, извлечённые знания и результаты инструментов в рабочий контекст. Политики: Retrieval Policy — определяет, какие сведения включить в контекст. Protection Policy — обеспечивает соблюдение границ доступа и конфиденциальности. Observability & Audit Policy — фиксирует состав контекста и происхождение использованных данных.
4. Сжатие и вытеснение (Compaction & Eviction) Когда: при необходимости уложиться в бюджет токенов. Система сокращает избыточную информацию, суммаризирует историю и удаляет наименее значимые элементы, сохраняя критические факты, ограничения и решения.
Политики: Compaction & Summarization Policy — сжимает информацию и формирует резюме с сохранением ключевого смысла. Eviction Policy — определяет, какие элементы удалить из рабочего контекста, а какие сохранить. Protection Policy — не допускает нарушения требований безопасности при обработке данных. Observability & Audit Policy — позволяет отслеживать изменения контекста и причины удаления информации.
5. Использование (Inference & Action) Когда: при вызове LLM для обработки задачи и при последующем выполнении выбранных действий.
LLM использует сформированный контекст для рассуждения, подготовки ответа, вызова инструментов или делегирования задачи другому агенту.
Политики: Protection Policy — ограничивает использование данных в соответствии с правами доступа. Observability & Audit Policy — связывает действия агента с использованным контекстом и источниками. Reconciliation Policy — помогает разрешать обнаруженные противоречия, если они требуют проверки до принятия решения.
6. Консолидация (Promotion & Consolidation) Когда: по событию, достижении порога или расписанию. Система отбирает полезные наблюдения, проверяет их достоверность, устраняет дубликаты и переносит подходящие знания из рабочей памяти в долговременную.
Политики: Promotion & Consolidation Policy — определяет, какие наблюдения заслуживают долговременного хранения. Reconciliation Policy — согласует новые знания с существующими фактами и версиями. Protection Policy — сохраняет ограничения доступа при переносе данных между уровнями памяти. Aging & Decay Policy — учитывает актуальность знаний при их консолидации.
Сквозные политики Protection и Observability & Audit действует на протяжении всего жизненного цикла.