Жизненный цикл памяти AI-агента

Именно взаимодействие этапов и политик формирует управляемую архитектуру памяти AI-агента.

1. Запись (Write) Когда: при поступлении данных. Агент получает сообщение (от пользователя, другого агента, внешней системы или инструмента), результат инструмента или наблюдение и решает, что сохранить в краткосрочной либо долговременной памяти.

Политики(правила управления поведением системы): Write Policy — определяет, какую информацию сохранять, в каком формате и с какими метаданными. Protection Policy — контролирует права доступа и безопасность сохраняемых данных. Reconciliation Policy — выявляет противоречия с уже известными фактами и определяет правила их разрешения.

2. Извлечение (Retrieval) Когда: при обработке запроса, если требуется информация из памяти. Система ищет релевантные факты, оценивает их актуальность и достоверность, проверяет источники и права доступа.

Политики: Retrieval Policy — определяет стратегию поиска, ранжирования и отбора релевантных данных. Protection Policy — исключает извлечение информации, недоступной текущему пользователю или агенту. Aging & Decay Policy — учитывает устаревание данных и изменение их актуальности. Reconciliation Policy — помогает выявлять противоречия между найденными фактами.

3. Сборка контекста (Context Assembly) Когда: перед каждым вызовом LLM. Система объединяет инструкции, историю диалога, извлечённые знания и результаты инструментов в рабочий контекст. Политики: Retrieval Policy — определяет, какие сведения включить в контекст. Protection Policy — обеспечивает соблюдение границ доступа и конфиденциальности. Observability & Audit Policy — фиксирует состав контекста и происхождение использованных данных.

4. Сжатие и вытеснение (Compaction & Eviction) Когда: при необходимости уложиться в бюджет токенов. Система сокращает избыточную информацию, суммаризирует историю и удаляет наименее значимые элементы, сохраняя критические факты, ограничения и решения.

Политики: Compaction & Summarization Policy — сжимает информацию и формирует резюме с сохранением ключевого смысла. Eviction Policy — определяет, какие элементы удалить из рабочего контекста, а какие сохранить. Protection Policy — не допускает нарушения требований безопасности при обработке данных. Observability & Audit Policy — позволяет отслеживать изменения контекста и причины удаления информации.

5. Использование (Inference & Action) Когда: при вызове LLM для обработки задачи и при последующем выполнении выбранных действий.

LLM использует сформированный контекст для рассуждения, подготовки ответа, вызова инструментов или делегирования задачи другому агенту.

Политики: Protection Policy — ограничивает использование данных в соответствии с правами доступа. Observability & Audit Policy — связывает действия агента с использованным контекстом и источниками. Reconciliation Policy — помогает разрешать обнаруженные противоречия, если они требуют проверки до принятия решения.

6. Консолидация (Promotion & Consolidation) Когда: по событию, достижении порога или расписанию. Система отбирает полезные наблюдения, проверяет их достоверность, устраняет дубликаты и переносит подходящие знания из рабочей памяти в долговременную.

Политики: Promotion & Consolidation Policy — определяет, какие наблюдения заслуживают долговременного хранения. Reconciliation Policy — согласует новые знания с существующими фактами и версиями. Protection Policy — сохраняет ограничения доступа при переносе данных между уровнями памяти. Aging & Decay Policy — учитывает актуальность знаний при их консолидации.

Сквозные политики Protection и Observability & Audit действует на протяжении всего жизненного цикла.

Жизненный цикл памяти AI-агента | Сетка — социальная сеть от hh.ru