Всем привет 👋 😊

Локальная #LLM уверенно отвечает — и так же уверенно врёт, стоит спросить про ваш домен. Для разработчика понимать, как это чинить, — уже базовый навык.

В статье разбираем эксперимент: одна RTX 4090 и три подхода — промпт, #RAG и дообучение #QLoRA без единой строчки кода.

Каждый подход победил в своей номинации. И каждый сломался там, где я не ждал. Внутри — цифры и карта решений.

Ссылка на статью: https://habr.com/ru/companies/otus/articles/1064244/

Буду рад обсудить в комментариях 🤝