2/3 Чат-бот с RAG

Предыстория: мне в последнее время мне стали приходить запросы от HR с просьбой заполнить небольшие анкеты с вопросами типа "Сколько у Вас лет опыта работы с Kafka?", "Есть ли у Вас опыт работы с WebFlux". Сначала я их заполнял, но потом мне надоело и я написал чат-бота, который все знает о моем опыте работы и может отвечать на такие вопросы. Технологии: Spring AI, Ollama (gemma), RAG, Spring Boot и т.д.

Снижаем температуру, пишем промпт который запрещает сочинять если нет информации для ответа.

Получается лучше, по крайней мере нет придуманных компаний, и бот честно отвечает, что не знает, хотя фраза "конкретное место работы... забыл" звучит странно :)

В третьем посте выложу уже результат с реранкером.

2/3 Чат-бот с RAG | Сетка — социальная сеть от hh.ru