Токенный похмел: как бизнес начал считать деньги за ИИ и почему $746 за Copilot — это только цветочки 💸

Буквально на днях я писал про чувака, который знатно припух со счета в $746 за Copilot, пока просто переписывал свои домашние скрипты под Ansible. И вот подвезли свежую аналитику, и там масштаб бедствия уже вполне себе корпоративный.

Сэм Альтман на днях выдал прекрасное: у них на платформе появился лидер, который сжигает 100 миллиардов токенов в месяц. И Альтман со стыдом признался, что в мире есть кто-то, кто умудряется тратить еще больше у конкурентов. Для контекста: 6 лет назад топ-юзер OpenAI тратил 100 тысяч токенов в месяц. Рост в миллион раз.

Но ладно рекорды. Главное — Альтман прямым текстом признал, что стоимость API стала реальной проблемой для их корпоративных клиентов. Раньше этот вопрос вообще никого не волновал на фоне хайпа, а теперь — бабах, и «внезапно огромная проблема».

А дальше будет только веселее. Альтман анонсировал, что следующий шаг OpenAI на этот год — «постоянно работающий проактивный ИИ». То есть автономные агенты, которые будут шуршать на фоне без ваших пинков и промптов.

На практике это означает, что агент, попавший в бесконечный цикл отладки или парсинга, высосет ваш кредитный лимит быстрее, чем вы успеете налить кофе.

Бегство в опенсорс 👨‍💻

По данным Axios, сейчас идет тихий, но массовый саботаж закрытых моделей: 1️⃣ Диверсификация. Никто в здравом уме не хочет плотно садиться на иглу OpenAI или Anthropic (который, к слову, по оценкам Ramp обошел OpenAI по корпоративным тратам и поднял раунд с оценкой в $965 млрд — безумие, да?). Компании боятся ценового диктата и жестко настраивают роутеры моделей. 2️⃣ Слив задач на «дешманские» модели. Зачем кормить Claude Opus тривиальными задачами? Трафик активно перенаправляется на опенсорсные Llama, DeepSeek или кастомные мелкие сетки. У некоторых стартапов использование опенсорса выросло втрое только за последний месяц. 3️⃣ Смерть ROI-иллюзий. Счета за ИИ-инфраструктуру стали настолько жирными, что инвесторы и директора начали задавать неудобные вопросы: «А где, собственно, прибыль с этих ваших нейронок?».

В общем, всем пора учиться собирать умную маршрутизацию, когда сложный запрос идет к условной Claude, а рутина — к дешевой локалке ☝️