7 ошибок в оценке качества LLM-систем в продакшене
Всем привет 👋 😊
Дашборд зелёный, метрики ровные — а поддержка каждую неделю приносит скриншоты с уверенно неправильными ответами.
Знакомо?
Разбираем 7 ошибок в оценке качества и наблюдаемости #LLM-систем: от проверки «на глаз» до судьи, которого никто не калибровал.
Плюс — где этот контур не окупается.
#LLMOps и #Observability перестали быть темой дата-сайентистов: это часть эксплуатации обычного продакшена.
Ссылка на статью: https://habr.com/ru/companies/otus/articles/1067748/
Буду рад обсудить в комментариях 🤝