Троттлинг прогресса

Универсальные графические процессоры достигли критической неэффективности — они тратят колоссальную энергию на питание тысяч блоков, ненужных для задач ИИ, превращая мегаватты электричества в избыточное тепло, которое традиционные системы охлаждения уже не способны отвести.

Дальнейший путь развития теперь лежит через радикальный пересмотр аппаратной архитектуры. Именно этот переход от абстрактного софта к жесткому управлению физической энтропией, демонстрируют недавнее событие: чип Jalapeño, превзошёл Nvidia Blackwell по энергоэффективности, и глобальная перестройка рынка вычислительной инфраструктуры вновь на пороге давления новых законов физики.

От универсальности к специализации

Чип Jalapeño превосходит Nvidia Blackwell (GB200/GB300) в 1,5 — 1,9 раза по полезной работе на каждый ватт энергии. Это достигается не магией транзисторов, а узкой специализацией. В отличие от графических процессоров Nvidia, которые являются швейцарскими ножами для игр и графики, Jalapeño спроектирован исключительно под инференс. Данные KV-кэша хранятся локально, что исключает энергозатратное перемещение информации между чипами. Любая лишняя операция, любая дополнительная пересылка данных внутри кристалла или между платами генерирует джоулево тепло. Универсальный GPU вынужден питать и охлаждать тысячи блоков, ненужных для конкретной задачи нейросети. Эффективность нового железа напрямую коррелирует с его тепловыделением. Победа Jalapeño над Blackwell — это во многом победа над избыточным теплом. Специализированный чип физически холоднее просто потому, что он делает меньше бесполезной работы. Дальнейший прогресс ИИ лежит в отказе от универсальных архитектур ради минимизации тепловой энтропии.

Экономика электричества как главный драйвер дизайна

Номинальное потребление Jalapeño составляет 700 Вт (реальное устойчивое — около 550 Вт), тогда как системы Nvidia потребляют 1200 — 1400 Вт. Для дата-центра масштаба OpenAI разница в сотни мегаватт означает миллиарды долларов операционных расходов ежегодно. Стоимость отвода тепла часто превышает стоимость генерации самих вычислений. На каждый ватт, потраченный процессорным кристаллом, система охлаждения должна потратить еще от 0,3 до 0,6 ватта на работу насосов, помп и промышленных кондиционеров. Традиционное воздушное охлаждение уже неспособно справиться с плотностью теплового потока современных стоек. Энергоэффективность чипа из маркетингового преимущества превратилась в условие физического выживания инфраструктуры. Инженеры OpenAI оптимизировали архитектуру Jalapeño не только ради скорости ответов пользователей, но и для того, чтобы этот ответ можно было выдать без строительства новой атомной электростанции рядом с дата-центром. Проблема «оранжевого горлышка» заставляет разработчиков софта и железа работать в единой связке: алгоритм должен быть эффективным настолько, чтобы выделяемое им тепло оставалось в пределах возможностей теплоносителя.

Троттлинг на пиковой нагрузки

Jalapeño демонстрирует сокращение задержки генерации ответов в 1,7 — 3,6 раза. Это позволяет модели выдавать токены практически мгновенно, создавая взрывной спрос на вычислительную мощность в микросекундном диапазоне. Современные жидкостные системы имеют определенную тепловую инерцию. Вода или диэлектрические жидкости не могут мгновенно поглотить резкий всплеск температуры (power spike), возникающий при мгновенном старте тяжелых вычислений. Возникает физический диссонанс: процессор готов отдать результат немедленно, но система охлаждения заставляет его простаивать в троттлинге, пока температура не придет в норму. Создав сверхбыстрый чип, индустрия столкнулась с тем, что физика жидкостей стала тормозить физику полупроводников. Будущее развитие ИИ-процессоров пойдет по пути сглаживания энергопотребления или внедрения микрожидкостных каналов непосредственно внутри самого кристалла, чтобы сократить путь тепла от транзистора до хладагента.

Полный текст статьи...

Chaitex

Троттлинг прогресса | Сетка — социальная сеть от hh.ru