👴🏻В продакшене LLM имеют свойство быстро устаревать — все, что произошло после даты их обучения, они просто не знают.
Наш хэд бэкэнд-разработки Женя сумел частично решить эту проблему с помощью Retrieval Augmented Generation. Вместо дорогого файн-тюнинга RAG подтягивает свежие документы из баз или интернета и подмешивает их прямо в промпт.
· 29.09.2025
Решение хорошее, но есть ощущение, что контекст может здраво выжирать.
Особенно на подмешивании доки к каким-то сложным инструментам 🤔
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён