Всем привет, на связи Иван Шашков 🖐️

А я потихоньку двигаюсь в сторону корпоративного BigTech и enterprise-ИИ.

Сейчас собрал локальную RAG-систему для интеллектуального поиска по большим массивам внутренних документов.

Тема RAG сейчас супер актуальна и на многих конференциях по ИИ обсуждаема, так как выстроить такую систему, чтобы она работала корректно, достаточно сложно. И никакой вайб кодинг тут не поможет, надо отлаживать руками и дообучать нейронки.

Что это вообще за RAG?

По сути, это умный поисковик компании. Сотрудник не ищет вручную нужный абзац среди тысяч документов, а задает вопрос обычным языком и получает ответ с указанием конкретного файла, раздела и страницы.

Идея простая: загружаем все нужные документы компании — после этого можно задавать системе через сайт или чат обычные вопросы по ним и получать конкретный ответ со ссылками на документ, раздел и страницу.

Например, юрист спрашивает: «Какая ответственность предусмотрена за нарушение сроков?», закупщик — «Чем отличаются предложения поставщиков?», руководитель проекта — «Какие риски зафиксированы в последних протоколах?», а специалист по качеству — «Что требует СОП при возникновении отклонения?».

Все работает локально, без отправки корпоративных документов во внешние облачные сервисы.

Самое интересное — система понимает прекрасно и pdf и docx и даже картинки и рукописный текст.

Короче, постепенно перехожу от отдельных нейросетевых экспериментов к разработке нормальных корпоративных ИИ-систем. И это, кажется, именно то направление, в котором мне сейчас интереснее всего развиваться.