Недавно нашу компанию объединили с другой, которая также разрабатывает no-code платформу. И сейчас мы знакомимся с новой командой разработки и активно обмениваемся знаниями. Так как наши продукты похожи, интересно посмотреть как у них всё реализовано

На прошлой неделе лид AI-команды рассказывал, как в их продукте устроены ИИ-агенты и как используется RAG. Попробую кратко вам рассказать.

🤖 Чем вообще ИИ агент отличается от обычной программы?

Ключевые отличия заключаются в двух возможностях:  - использовании инструментов  - динамическом принятии решений​

Под инструментами может подразумеваться:

- function calling — мы описываем, с какими функциями в нашем коде ИИ может взаимодействовать. Конечно, ИИ не запускает код напрямую: он генерирует имя функции и входные параметры, а сам вызов мы делаем уже со своей стороны.      - tools use — более высокоуровневые инструменты: поиск в интернете, работа с файлами, генерация картинок и так далее.

А благодаря тому, что у LLM есть условные «мозги», она сама понимает, какие инструменты и в какой последовательности вызывать и когда остановиться. Это и есть то самое динамическое принятие решений.

📚 Теперь кратко про RAG.

RAG — это генерация ответа, дополненная поиском по вашим данным, о которых сама LLM знать не может. Например, по корпоративной базе знаний.

Пример задачи: «Нам нужно, чтобы LLM отвечала на вопросы с учётом загруженных пользователями PDF-файлов».

Как это реализуется: - преобразуем PDF в текст - разбиваем текст на чанки - каждый чанк превращаем в векторное представление (эмбеддинг) с помощью embedding-модели - сохраняем текст вместе с вектором, например в Postgres с плагином pgvector

Кстати, на прошлой неделе нашёл отличную статью про то, как слова превращаются в векторы и используются в поиске. Скоро поделюсь 🔜.

Дальше, когда пользователь задаёт вопрос: - запрос преобразуется в вектор - находится наиболее подходящая по смыслу запись - в LLM передаётся: вопрос + найденные куски текста - LLM формирует ответ

Часть команды, немного растерялась, когда тимлид из другой платформы рассказывал обо всём этом 😅, так как большинство из нас ещё не сталкивались с разработкой агентов.

Сам я ИИ-агентов ещё не разрабатывал — пока разбираюсь в теме на уровне теории.

Ставьте 💜 — если интересно читать про ИИ-агентов.

Расскажите в комментах, а у вас есть опыт работы или разработки ИИ агентов.

#ai