Наш опыт внедрения агентного RAG в закрытом контуре

В этот четверг наш LLM-инженер Павел Филиппенко расскажет про наш кейс внедрения агентского RAG для архитекторов ИТ-систем: как там всё устроено, что крутится под капотом и какие трудности возникли при реализации проекта.

Как собирали и довели до пилота RAG-ассистента с пятью источниками знаний и реестрами на десятки тысяч записей. Как настроили систему в закрытом контуре. Покажем, что из этого опыта можно перенести на любой похожий проект. Основные тезисы: — Архитектура решения. Роутер и субагенты, гибридный поиск в Qdrant, три уровня поиска. Что из этого себя оправдало. — Деплой без выхода в сеть. Поговорим о неочевидных препятствиях и проблемах. — У кого работает json_schema, у кого только function_calling, почему reasoning-модели непригодны для служебных узлов. — Наблюдаемость как инструмент разработки. Трассировка с первых недель показала, что 79% времени уходит на LLM-вызовы, а не на поиск, — и подсказала неочевидную находку о том, что интерфейс шлёт агенту куда больше, чем видит пользователь.

Дата и время сбора: Четверг, 24 сентября, 15:30

Добавляйте в календарь и ставьте напоминание! Вот ссылочка: https://calendar.app.google/1LnHP99sFesUVnam9