Как-то незаметно прошло обновление нашей RAG системы, а тем не менее  мы сильно изменили структуру внутреннего RAG модуля.

Меньше галлюцинаций и больше данных из диалога помещается в контекст.  Помимо этого записали важное видео, описывающее подходы оптимизации промта, некоторые нюансы отладки.  https://vkvideo.ru/video-100284739_456239381  Рекомендуем посмотреть, если вы планируете использовать ИИ в качестве менеджера по клиентам или сотрудника ТП.