Бот тонул в собственной базе знаний. Месяц эксперимента.

Первый личный проект - фитнес-тренер на n8n с большой базой питания и упражнений. Вначале просто скидывал всю базу в контекст LLM на каждый запрос. И вот тренер начинает мимо отвечать, путаться во всех этих данных, как в лесу без компаса. Сидел я месяц, перепробовал все. Казалось логичным добавить еще данных, сделать модель умнее. Правда же оказалась противоположной.

Причина не в объеме информации, а в том, что модель захлебывалась нерелевантным контекстом. Зато я случайно открыл для себя, что работает. Прогнал базу через LLM, она разбила ее на смысловые куски, каждый кусок размечен темой. Тренировка спины, кардио, белки для набора массы. Теперь поиск доставляет только нужный кусок, не всю кашу. Тренер начал отвечать в точку.

Позже назвали это RAG, но в то время я просто искал, как помочь модели. Урок остался главным для всех проектов после: структурирование данных и релевантный поиск спасают больше, чем просто объем информации.

#n8n #RAG #LLM #автоматизация #разработка #базаданных #нейросети