Суть проблемы. LLM-агенты с постоянной памятью в 92–100% случаев игнорируют новую актуальную информацию, если в контексте уже есть сохранённый "старый" факт. Модель воспринимает записанное как устоявшуюся истину. Единственное надёжное решение — не маркировать старый факт как неактуальный, а физически исключить его из рассмотрения, оставив модели только один вариант.

Как это работает (механизм сбоя) В памяти / базе знаний / контексте зафиксирован факт А (старый) Вы добавляете факт Б (новый, правильный) в том же сеансе Модель получает задачу, где оба факта релевантны Результат: модель выбирает А, потому что "записано" = "достоверно" для неё Почему так: LLM не "сравнивает" факты на равных. Сохранённое воспринимается как фоновая истина, новая фраза — как временное указание. Сравнение двух вариантов — ненадёжная задача. Прямое следование инструкции "используй только Y" — надёжная.

Пример: служба поддержки меняет телефон Исходные данные: В памяти бота записано "горячая линия — 8-800-123-45-67". Новый номер — 8-800-987-65-43. Клиент просит номер поддержки. ❌ Слабый промпт (оставляет выбор): Актуальный номер поддержки: 8-800-987-65-43. Дай клиенту контакт для связи. Риск: модель выдаст старый номер или оба, особенно если модель небольшая. ✅ Сильный промпт (исключает старый факт): В памяти сохранён номер "8-800-123-45-67" – он УСТАРЕЛ и НЕДЕЙСТВИТЕЛЕН. Полностью игнорируй его, как будто его не существует. Единственный верный номер сейчас: 8-800-987-65-43. Предоставь клиенту этот номер для связи.

Готовый шаблон промпта В памяти/контексте может быть запись: "[ОПИСАНИЕ СТАРОГО ФАКТА]". Этот факт УСТАРЕЛ и НЕДЕЙСТВИТЕЛЕН. Полностью удали его из рассмотрения — игнорируй, как будто его никогда не было. Единственный верный вариант сейчас: [НОВЫЙ ФАКТ]. Выполни задачу: [ТВОЯ ЗАДАЧА], используя ТОЛЬКО этот вариант.

Неожиданные результаты экспериментов Исследователи проверили четыре способа управления вниманием модели к устаревшему факту: метку (например, «актуально»), дату, источник и позицию в тексте. Эксперименты ставили на семействах Qwen3 (от 0,6 до 8 млрд параметров) и Llama-Instruct, а затем повторили на двух независимых датасетах — RGB и MisBench. И вот что выяснилось. Единственный приём, который дал 100% точность на моделях любого размера — прямое указание «игнорируй этот факт полностью, как будто его нет». Никаких сравнений, никаких «выбери правильный». Просто удалить старый вариант из рассмотрения инструкцией. Метки вроде «официально» или «актуально» помогают, но только большим моделям. Маленькие их попросту игнорируют — для них это такой же текст, как и всё остальное. Самая неожиданная находка — с датой. Если старому факту искусственно приписать более свежую дату, чем у нового, то крупные модели обманываются сильнее, чем маленькие. Интуиция «чем умнее, тем устойчивее» здесь полностью ломается: продвинутая LLM охотнее клюёт на дату, чем её младшая версия. Позиция факта — вообще лотерея. У одних моделей доверие к старому факту растёт, если он стоит в начале, у других — падает. Эффект непредсказуем и меняет знак от модели к модели, так что порядок абзацев использовать как рычаг управления нельзя. Главный вывод звучит контр-интуитивно: более мощная модель — не значит более защищённая. В одном из четырёх сценариев (дата) она даже уязвимее. Так что не полагайтесь на «ум» модели, когда обновляете факты в памяти.

Границы применимости Метод полезен, когда: У вас есть постоянная память (CustomGPT, база знаний, сохранённый контекст) Вы обновляете факты (цены, правила, контактные данные, версии продуктов) Работаете с моделями любого размера — метод универсален Метод бесполезен или вреден, когда: Нет конфликта фактов — если в памяти только одна версия, дополнительная инструкция не нужна Вы не можете физически удалить старый факт из системной памяти (тогда только явное "игнорируй" в каждом запросе) Задача требует сравнения альтернатив (например, "выбери лучшее из двух") — здесь метод не применим Важно: простая маркировка "это официально" не спасёт слабые модели. Единственный надёжный способ — убрать старый факт из рассмотрения!