Цена токенов для LLM

Видел у многих блогеров опасения и предсказания, что цена на токены для LLM скоро вырастет. И тогда мы узнаем, как всё это дорого на самом деле! Сейчас дотируется инвесторами ради захвата рынка, но аттракцион щедрости не может продолжаться бесконечно. Особенно, учитывая недавний резкий рост стоимости оперативки, процессоров и носителей данных.

Я думаю, что это не так. Уже сейчас можно успешно запускать и использовать некоторые модели локально, например, для распознавания речи. Да, они ещё сильно остают от передовых облачных решений. Но их зачастую достаточно для конкретных узких задач.

Через пару лет прогресс уйдёт вперёд и мы будем больше использовать локальные модели, натренированные на специфическую задачу. Для чего тогда нужно будет платить облачному поставщику?

Компания придётся постараться, чтобы мы продолжали платить.

❤️ Жми на сердечко, если интересно 💯 Жми на сотку, если согласен со мной 🦄 Жми на единорога, если цена вырастет