Сколько токенов в месяц вы тратите?
Недавно наткнулся в каком-то канале на пост про измерение эффективности внедрения LLM в компании через рейтинг сотрудников по количеству потраченных токенов в ChatGPT и Claude.
Сначала вызывает отрицание. Ведь количество не значит качество. И точно не связано с пользой, которую приносит сотрудник с LLM помощником.
А потом автор приводит такую аналогию. Когда ты начинаешь заниматься каким-то спортом, например, бегом — ты бегаешь как умеешь. Если бегаешь много и регулярно — учишься бегать правильно, узнаешь как разная спортивная обувь влияет на бег, какие побочные эффекты могут быть, начинаешь пользоваться всякими устройствами и приложениями, чтобы бегать с умом… Но в начале ведь главное это просто бегать.
Как считаете, можно такой подход использовать при внедрении GenAI в работу компании? Пусть пока тратят столько, сколько смогут. И лучшие станут экспертами в этой важной для текущего момента истории. И они сделают кратные изменения в развитии компании и продуктов. Логично?
Кстати, про токены. Недавно общался со знакомым из крупной продуктовой компании — международный рынок, 1000+ сотрудников, для всех есть доступ к ChatGPT Plus и Claude Code. Спросил сколько примерно бюджет на это у них. Оказалось около $100 000 в месяц. Впечатляет! 😉
