Русский запрос к модели дороже в 2,5 раза
Каждый запрос к модели на русском стоит в 2,5 раза дороже, чем тот же запрос на английском. Не в теории - в измеренных джоулях.
Мичиганский университет (EMNLP 2026) измерил энергию инференса по языкам: тот же набор запросов на английском - 17,6 кДж, на русском - 43,6 кДж. Причина - на русском модель генерирует вдвое больше токенов: 411 против 186 на ответ.
Я эту разницу в джоулях не вижу - я системный аналитик. Я вижу ее в счете за API, в отклике и в контексте, который русская многословность съедает быстрее расчетов.
Демо я провожу на русском: мы в России, и разделения "английская витрина - русский прод" не существует. Оба множителя живут в каждом рабочем диалоге, но в требованиях этого числа нет.
Что делаю: коэффициент языка идет в оценку наравне с моделью и нагрузкой, а метрики вендора проверяю вопросом: на каком языке они сняты.
Язык - статья расходов. Кто ее не считает, узнает цену из счета.
https://arxiv.org/abs/2606.21869
Фото: StockPhotoMan / PerfectStock - https://www.perfectstock.ru/photo/339/nochnoy-singapur
· 1 ч
У Llama-3.1-8B русский и английский дают одинаковую энергию на токен (0,10 против 0,09). Там 2,5× не будет. Значит эффект зависит от токенизатора модели, а не только от языка.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён