RAG не спасает от галлюцинаций: 7 шагов, на которых ломается база знаний
Загрузить в помощника папку с документами — это не настройка, а только начало.
RAG — схема, при которой модель не отвечает по памяти, а сначала ищет фрагменты в ваших документах и формулирует ответ на их основе. Качество исходных файлов он при этом не проверяет: ошибку в документе система не исправит.
В базе две версии регламента, таблица распозналась с ошибками, строки потеряли связь с заголовками. Клиент спрашивает про срок согласования — помощник достаёт устаревшее правило или склеивает условия двух отделов.
Разобрал семь шагов: источники, документы, фрагменты, метаданные, гибридный поиск, права доступа, обновление индекса. По каждому — что ломается, если шаг пропустить. Плюс чек-лист из 11 пунктов.
https://pavelkarikoff.ru/avtomatizatsiya/kak-sobrat-rag-dlya-biznesa
А вы знаете, откуда ваш помощник взял конкретную цифру?
