🔹 Контекстное окно: рабочая память агента 🧠 🔹 Почему агент забывает то, о чём вы говорили час назад? 🔸 Агент вызывает инструменты и читает их результаты шаг за шагом, но на чём держится его память? На контекстном окне: это всё, что модель видит в данный момент. Ваши сообщения, её ответы, прочитанные файлы, результаты команд.

🔸 У окна есть предел, и каждый шаг агента занимает в нём место. Прочитанный большой файл или команда с длинным выводом быстро съедают часть окна.

🔸 Между сессиями модель ничего не помнит. Новая сессия начинается с пустого окна, поэтому важное лучше записывать в файл, а не надеяться на память модели.

🔸 Когда окно переполняется, старое сжимается или отбрасывается. Поэтому в длинной работе агент может потерять детали, которые вы обсуждали в начале.

📚 Забывчивость агента не капризы, а предел рабочей памяти, и с ним стоит считаться заранее.

#CODERIKK #AI #Junior

➡️ Мы в Telegram - Сетке - ВК Буду рад вашей реакции здесь⬇️


В этом посте были ссылки, но мы их удалили по правилам Сетки

🔹 Контекстное окно: рабочая память агента 🧠
🔹 Почему агент забывает то, о чём вы говорили час назад?
🔸 Агент вызывает инструменты и читает их результаты шаг за шагом, но на чём держится его память? На... | Сетка — социальная сеть от hh.ru