Ключевая проблема: модель может идеально процитировать пункт из 100-страничного документа, но полностью проигнорировать его при финальном решении. Это не баг памяти — это два разных навыка: поиск информации и её использование. Суть метода: когда LLM читает длинный текст, она сжимает прочитанное в компактное резюме в "голове" — конкретные детали из середины документа вымываются. При этом сам текст остаётся доступен для точечного поиска. Решение: вытащить критический факт отдельным запросом, сформулировать как короткий тезис и разместить прямо перед финальным вопросом.

Как это работает Retrieval. Отдельным запросом просишь модель точно процитировать нужный факт из документа. Сжатие. Превращаешь цитату в 2–3 структурированных предложения своими словами. Интеграция. Вставляешь этот тезис перед финальным вопросом-решением, документ остаётся в контексте выше. Шаги 1–2 можно совместить в одном запросе, шаг 3 — в том же чате или новым сообщением.

Реальный пример Задача: основатель получил term sheet на 40 страниц, просит рекомендацию — подписывать или нет. В середине документа зарыт пункт о ликвидационной преференции 3x. Промпт: Вот term sheet: [документ] Шаг 1: Найди и процитируй точно пункт про ликвидационную преференцию. Шаг 2: Ключевой факт для решения: ликвидационная преференция 3x означает, что при продаже компании инвестор первым забирает тройной размер своих вложений, и только остаток делится между основателями и другими акционерами. С учётом этого факта и всего документа выше — дай рекомендацию: стоит ли подписывать и на что обратить внимание при переговорах?

Результат: модель явно упоминает риск преференции и взвешивает его в обосновании. Без выноса факта вперёд она даст общую положительную рекомендацию и не упомянет этот риск — не потому что не "видела" пункт, а потому что он не попал в финальное суждение.

Шаблон для копирования Вот документ: {документ} Шаг 1: Найди и процитируй точно: {конкретный_факт} Шаг 2: Ключевой факт для решения: {краткое изложение факта своими словами, 2-3 предложения} С учётом этого факта и всей информации в документе выше, ответь на вопрос: {финальный_вопрос_или_решение}

Когда работает, когда нет ✅ Полезно: Длинные документы (от 8 тыс. токенов) Критичный факт спрятан в середине текста Нужно взвешенное решение на основе всей информации ❌ Не работает: Просто скопировать фрагмент документа рядом с вопросом — помогает слабо, нужен именно краткий пересказ сути. Суммаризация по кускам — факт потеряется ещё на этапе сжатия. "Подумай дольше" (reasoning) — не восстанавливает влияние факта, на коротких документах даже снижает его.

Что показали эксперименты Взяли 12 реальных компаний, в отчёты 10-К вшили проверяемый риск-факт. Увеличивали объём окружающего текста от 2 000 до 128 000 токенов. Retrieval оставался почти идеальным на всех длинах. Влияние факта на решение падало до уровня шума уже на 8–32 тыс. токенов — и оставалось там до 128 тыс. Эффект воспроизвели на трёх семействах моделей и 20 реальных отчётах.

Правила игры Выноси вперёд не больше 3–5 критичных фактов списком. Тезис — 2–3 предложения, не абзац исходного текста. Место вставки — непосредственно перед финальным вопросом, не в начале документа. Формулируй тезис своими словами, а не копипастой.

Исследование: 2608.24842 Поддержать проект донатом: Сбер 2202 2084 9881 5282. Заранее спасибо.