Самый простой способ notebooklm +Gemini, реально очень простой)

краткий ответ - онтологии/модель знаний

Тут несколько задач - 1 разбить на фрагменты максимально близкие по смыслу для векторов. Варианты - от простых поабзацных до сложных семантических. 2 - дедупликация, поиск и очистка дубликатов. 3 - ответ в ситуации когда РАГ всетаки вернул противоречивые данные. Приориетет по метаданным или арбитраж. Ну на конец сбор и анализ обратной связи, и корректировка противоречий. Ну вот и все)

Мы сделали вот так https://set.ki/post/9rwHRfX

Я от высоких технологий далек 😉 Но на базе ChatGPT сделал себе несколько консультантов с RAG базой знаний и инструкциям под конкретные задачи. В таком виде это совсем не сложно, но трудоемко в части подготовки данных.

Брал текст, резал на чанки (с 15% перекрытием), загонял в векторку. При входящем запросе искал в векторке контекст и в llm

Как тестировал. Был пул популярных запросов(тестовые данные). Вручную прогонял и анализировал результат. Цель: за меньшое контекстное окно максимум пользы Что менял: LLM, Эмбеддинг-модели, размер чанков, процент перекрытия, финальный промпт. После n-го количества итераций (Понятное дело в полуавтоматизированном режиме) получилось собрать сбалансированную систему, которая решает задачи

Добрый

На основе LlamaSharp, ChromaDBSharp (vector data base Chroma), AllMiniLmL6v2Sharp (Embedding) организовывал RAG, но “набивку” базы особо не делал, был интерес именно технологию изучить!

Поэтому качество ответов с RAG особо не оценить было, но модель вполне учитывала данные из Chroma!

Модели есесно open source, точно не помню уже какие, но что то типа llama3 или около

Внедрение RAG-систем упирается не в технологию, а в качество данных и пользовательский опыт. Если база знаний содержит противоречивые или устаревшие инструкции, модель начнет генерировать ошибки. Доверие сотрудников теряется после первого же неверного ответа. Поэтому аудит контента первый этап, важнее настройки модели.

Критична интеграция в привычную среду. Если для получения ответа нужно переходить в отдельное окно, системой пользоваться не будут. Ассистент должен жить там, где идет работа в мессенджере, CRM или таск-трекере. Контекст должен подхватываться автоматически, чтобы не тратить время на формулировку запроса.

Важна прозрачность ответов. Система должна указывать источник информации ссылку на документ, раздел инструкции. Это позволяет сотруднику быстро проверить достоверность и снижает тревожность перед «черным ящиком». Без верификации источника любой ответ воспринимается как риск.

Наконец, необходима постоянная калибровка. Сбор обратной связи (полезно/бесполезно) должен быть встроен в интерфейс. Анализ неудачных запросов позволяет дообучать векторную базу и чистить шум. RAG — это не проект с датой завершения, а живой процесс поддержки актуальности знаний.

Старая добрая справочная система составленная грамотным человеком и набранная руками в любой среде в зависимости от специфики пользования. Многостраничный сайт с адаптивной версткой. Да хоть в Google Site.

Я разрабатываю такие AI-агенты. Достаточно кропотливая работа: от сбора информации до тестирования и оценки качества. То есть никакой чудо-кнопкой не являются. Могу, если есть желание, рассказать подробнее.

насколько релевантны ответы тех ассистентов, с которыми работали?