Стоимость LLM: почему дешёвая модель дороже дорогой

Всем привет 👋 😊

Три недели назад я перевёл агента на модель втрое дешевле — и получил счёт больше прежнего.

Цена за миллион токенов мало говорит о реальных расходах. Считать надо стоимость одной закрытой задачи.

В статье разбираем три ошибки подсчёта: добавляешь в формулу десять минут работы инженера — и экономия на тарифе перестаёт окупаться.

Тема, которую стоит держать в голове каждому, кто тащит #LLM в прод.

Ссылка на статью: https://habr.com/ru/companies/otus/articles/1067744/

Буду рад обсудить в комментариях 🤝

#AIAgents #LLMOps