Стоимость LLM: почему дешёвая модель дороже дорогой
Всем привет 👋 😊
Три недели назад я перевёл агента на модель втрое дешевле — и получил счёт больше прежнего.
Цена за миллион токенов мало говорит о реальных расходах. Считать надо стоимость одной закрытой задачи.
В статье разбираем три ошибки подсчёта: добавляешь в формулу десять минут работы инженера — и экономия на тарифе перестаёт окупаться.
Тема, которую стоит держать в голове каждому, кто тащит #LLM в прод.
Ссылка на статью: https://habr.com/ru/companies/otus/articles/1067744/
Буду рад обсудить в комментариях 🤝