Всем привет, на связи Иван Шашков 🖐️
А я потихоньку двигаюсь в сторону корпоративного BigTech и enterprise-ИИ.
Сейчас собрал локальную RAG-систему для интеллектуального поиска по большим массивам внутренних документов.
Тема RAG сейчас супер актуальна и на многих конференциях по ИИ обсуждаема, так как выстроить такую систему, чтобы она работала корректно, достаточно сложно. И никакой вайб кодинг тут не поможет, надо отлаживать руками и дообучать нейронки.
Что это вообще за RAG?
По сути, это умный поисковик компании. Сотрудник не ищет вручную нужный абзац среди тысяч документов, а задает вопрос обычным языком и получает ответ с указанием конкретного файла, раздела и страницы.
Идея простая: загружаем все нужные документы компании — после этого можно задавать системе через сайт или чат обычные вопросы по ним и получать конкретный ответ со ссылками на документ, раздел и страницу.
Например, юрист спрашивает: «Какая ответственность предусмотрена за нарушение сроков?», закупщик — «Чем отличаются предложения поставщиков?», руководитель проекта — «Какие риски зафиксированы в последних протоколах?», а специалист по качеству — «Что требует СОП при возникновении отклонения?».
Все работает локально, без отправки корпоративных документов во внешние облачные сервисы.
Самое интересное — система понимает прекрасно и pdf и docx и даже картинки и рукописный текст.
Короче, постепенно перехожу от отдельных нейросетевых экспериментов к разработке нормальных корпоративных ИИ-систем. И это, кажется, именно то направление, в котором мне сейчас интереснее всего развиваться.