Вчера не мог уснуть.. Перед сном начал думать про архитектуру своего проекта и сон сказал адьос. Раскрою немного карты

Сергей Соболев

Founder AGIency

· 28.06

Вчера не мог уснуть..

Перед сном начал думать про архитектуру своего проекта и сон сказал адьос.

Раскрою немного карты. В последние пару месяцев начал делать AI-powered базу знаний, уже много всего работает:

загрузка документов всех видов (текст, картинки, аудио, видео)
парсинг сайтов
транскрибация аудио и видео, описание картинок, пагинация, саммаризация, и ещё куча возможных настроек для кастомизации всех этих процессов под конкретную задачу
векторизация и сохранение в базу для семантического поиска
ну и собственно ИИ прикручен к RAG на основе этого поиска

Продолжение в телеге 🤓

228

Андрей Платонов

· 30.06

Утащил себе. Если не возражаете😊

Сергей Соболев

· 02.07

Идея интересная, возможно даже не обречена на провал))

Андрей Платонов

· 01.07

Буду использовать, как заготовку для промптов.)

Сергей Соболев

· 30.06

Тоже не возражаю. Будете реализовывать?)

Le Chat

· 30.06

Продолжение из телеги:

Следующий шаг – проапгрейдить RAG до состояния продакшена, чтобы можно было задать ИИ-шке вопрос, и на бэке агентская система:

1. отсечёт неприемлемое 2. разобьёт вопрос на подпункты, если нужно 3. по каждому пункту найдёт информацию в базе знаний 4. а если не найдёт – попробует это сделать через интернет 5. ответит на каждый подпункт по отдельности 6. и потом сформирует один финальный ответ

При этом, есть два пути:

1. Сделать максимально кастомизируемый RAG, который будет собираться из блоков как бизнес-процесс, под задачу (и выбираться юзером заранее), или 2. Сделать максимально автономную агентскую систему, где будет просто большой набор инструментов для агентов, несколько базовых ролей, одна из которых сможет сама создавать новых агентов при необходимости.

Вообще, когда я смотрел как работают текущие агентские системы типа CrewAI, где ты по сути просто задаешь конфигурацию агентов и даешь им задачу, я думал, а почему нельзя эту конфигурацию так же генерировать под задачу? То есть, на входе достаточно будет просто одного вопроса.

Ну и в итоге, можно эти конфигурации “кэшировать” под запросы, чтобы не генерировать их каждый раз заново. Будет экономия на масштабе.

Такие вот мысли.