RAG может найти нужный абзац — и всё равно не выбрать его
Перед ответом RAG-система обычно достаёт из базы несколько подходящих фрагментов. Этот первый поиск работает быстро, но оценивает сходство довольно грубо: нужный абзац может оказаться в списке, только далеко не первым.
Здесь помогает реранкер — часто отдельная модель. Он берёт запрос и каждый найденный фрагмент парой, внимательнее оценивает их соответствие и переставляет кандидатов. Проверять так всю базу было бы слишком дорого, поэтому реранкер работает лишь с коротким списком.
Полезная диагностика: если верный фрагмент уже найден, но проигрывает соседям, улучшайте ранжирование. Если его нет в списке совсем — реранкеру переставлять нечего.
