Сегодня побывал на вебинаре "Создание Telegram-бота на базе LLM с RAG и Function Calling".

На вебинаре показали, как просто использовать AI Assistant API для поддержания контекста диалога. Мы обсудили, как лучше создать и структурировать базу знаний и подключить ее к модели для реализации Retrieval-Augmented Generation (RAG). Также рассмотрели, как чанковать и индексировать таблицы в формате Markdown.

В процессе работы использовался подход Function Calling. Были созданы несколько функций, которые модель могла вызывать, включая функции для поиска по прайс-листу, добавления товаров в корзину и вызова оператора. В частности, был создан сомелье, который мог рекомендовать вино к еде, находить его в магазине и добавлять в корзину, а также вызывать оператора для помощи.

Эти решения позволяют легко и быстро создавать собственных ассистентов, а подключение их к Telegram-боту — это дело техники. Также нам показали, как тестировать агента с помощью другого агента, что открывает новые возможности для разработки.