Benchmark горят, TFLOPS лгут, Blackwell простаивает без HBM

Для бизнеса потенциал модели отошел на второй план перед прозаичными вопросами: сколько стоит один миллион токенов и сколько миллисекунд пользователь ждет ответа чат-бота? Традиционная архитектура графических процессоров (GPU), десятилетиями доминировавшая благодаря своей универсальности, начала давать сбой. В ответ на этот вызов индустрия переживает бунт против монополии GPU. На сцену вышли радикально специализированные архитектуры, которые сознательно жертвуют гибкостью ради экстремальной скорости и предсказуемости. Рынок разделился на тех, кто строит вычислительные монолиты, и тех, кто проектирует чипы под конкретные фазы работы модели. Эта тенденция породила новую архитектуру вычислений, перекроив геополитическую карту полупроводников и обнажил неожиданное узкое место — физический дефицит памяти, который сегодня сдерживает развитие ИИ сильнее, чем любые законы Мура.

Инференс побеждает обучение Cогласно оценкам Deloitte, две трети всех вычислительных ресурсов планеты тратятся на их эксплуатацию — инференс. Эпоха создания новых нейрогигантов уступила место эпохе их эффективного использования. Для бизнеса главным вопросом стал не потенциал модели, а цена и скорость получения ответа в реальном времени.

Этот сдвиг в экономике ИИ спровоцировал бунт против традиционной архитектуры графических процессоров. На сцену вышли специализированные чипы, жертвующие универсальностью ради экстремальной скорости.

Cerebras — когда размер имеет значение

OpenAI, стремясь преодолеть бутылочное горлышко классических GPU в интерактивных задачах, заключила одну из крупнейших инфраструктурных сделок в истории ИИ. Речь идет о контракте с Cerebras на поставку систем общей мощностью 750 мегаватт на базе процессоров WSE-3. Стоимость соглашения превышает 10 миллиардов долларов, а развертывание мощностей рассчитано до 2028 года. Главный козырь Cerebras — архитектура Wafer Scale Engine. Вместо того чтобы собирать кластер из тысяч отдельных кристаллов, инженеры используют целую кремниевую пластину как единый процессор (46 225 мм²). На этом монолите размещено 44 ГБ памяти SRAM, интегрированной прямо в вычислительные ядра. В обычных кластерах модель постоянно путешествует между ускорителями по внешним кабелям, теряя время и энергию. В системе Cerebras данные циркулируют внутри пластины со скоростью 21 петабайт в секунду, никогда не покидая кристалл. Это позволяет достичь беспрецедентной плотности вычислений. Практический результат — феноменальный инференс. OpenAI готовит к запуску модель GPT-5.6 Sol, способную генерировать до 750 токенов в секунду. Для разработчиков это означает переход от пакетной обработки к живому, непрерывному диалогу с ИИ, где ожидание ответа не сбивает творческий поток. Groq архитектура абсолютного порядка Если Cerebras берет мощностью, то Groq берет предсказуемостью. Их LPU (Language Processing Unit) изначально создавался не для обучения, а только для вывода. В конце 2025 года NVIDIA фактически признала превосходство этого подхода, заключив с Groq сделку на 20 миллиардов долларов. Это не покупка компании, а лицензирование технологий — NVIDIA наняла почти весь топ менеджмент Groq, включая президента Санни Мадру, чтобы интегрировать их логику в собственные стойки Vera Rubin. Феномен Groq кроется в детерминизме. В традиционных GPU работу постоянно прерывают планировщики, кэш промахи и динамическое распределение ресурсов, создавая микросекундные задержки. В LPU компилятор заранее выстраивает жесткий график выполнения каждой операции.

Процессор работает как швейцарские часы: нет никаких случайных задержек, каждый такт предсказуем. Для голосовых интерфейсов, систем управления роботами и интерактивных ассистентов это критическое преимущество — ответ начинает генерироваться мгновенно, без стартовой паузы. На тестах Llama 2 70B чипы Groq выдают более 300 токенов в секунду, а новые поколения LPU нацелены на скорости в тысячи токенов.

Полный текст статьи...

Chaitex

Benchmark горят, TFLOPS лгут, Blackwell простаивает без HBM | Сетка — социальная сеть от hh.ru