Контекстная инженерия против инженерии памяти в агентных системах искусственного интеллекта
В этой статье вы узнаете, как проектирование контекста и проектирование памяти решают различные проблемы в агентных системах искусственного интеллекта, и как эти две дисциплины пересекаются в точке, где извлеченная память попадает в контекстное окно.
Среди тем, которые мы рассмотрим, следующие:
- Что включает в себя контекстная инженерия, в том числе выборочное включение, структурное размещение и сжатие, и почему это важно для качества рассуждений в рамках одного вызова функции вывода.
- Что включает в себя проектирование памяти, в том числе разработку политики записи, выбор уровня хранения, стратегию извлечения и обслуживание, и как все это влияет на долговременную надежность.
- Как происходит взаимодействие между проектированием памяти и контекста на границе извлечения информации, и два наиболее распространенных типа сбоев, возникающих при неэффективном управлении этой границей.