Предыстория: мне в последнее время мне стали приходить запросы от HR с просьбой заполнить небольшие анкеты с вопросами типа "Сколько у Вас лет опыта работы с Kafka?", "Есть ли у Вас опыт работы с WebFlux". Сначала я их заполнял, но потом мне надоело и я написал чат-бота, который все знает о моем опыте работы и может отвечать на такие вопросы. Технологии: Spring AI, Ollama (gemma), RAG, Spring Boot и т.д.

Итак, проверяем худший случай: Реранкер не настроен, высокая температура, промпт без ограничений на ответ.

Нейронка сильно галлюцинирует. И мало того, что бот придумал мне несуществующее место работы, так еще и отправил в горы на пару недель, и это в 2020 году, когда выйти на улицу было событием. За горы спасибо, конечно, но ответ к реальности никакого отношения не имеет. В следующем посте выложу результат после изменений параметров нейронки и добавления промпта, пока без добавления реранкера.