Вскрытие Transformer — MoE, Mamba и Diffusion
Современный обучающий кластер потребляет столько же электричества, сколько небольшой промышленный город, превращая вычислительный прогресс в фактор глобального энергетического кризиса. На этом фоне классические дата-центры с воздушным охлаждением окончательно исчерпали свой потенциал — они физически не способны отвести тепло от новейших чипов, а медные соединения внутри серверов начали плавиться под нагрузкой, становясь главным тормозом развития мультимодальных моделей.
Эта ситуация спровоцировала радикальную перестройку всей технологической цепочки. Инженерный ответ на энергетический коллапс оказался беспрецедентным: индустрия отказывается от воздуха в пользу жидкостей, от электроники в пользу света, а от монолитных нейросетей — в пользу фрагментированных архитектур.
В этом материале мы исследуем, как глобальная погоня за универсальным ИИ привела к физическому перерождению вычислений. Вы узнаете, почему гиперскейлеры заливают серверы кипящим диэлектриком, как кремниевая фотоника заменяет медь внутри машинного зала, и каким образом архитектурные инновации вроде Mixture-of-Experts и диффузионных LLM позволяют преодолеть квадратичную сложность трансформеров. Мы разберем, как эти технические решения формируют новую двухуровневую экономику, где вычислительный суверенитет становится важнее облачной подписки, а браузер пользователя превращается в полноценный суперкомпьютер.
Инфраструктура уходит на край и в оптику
Глобальная погоня за универсальным ИИ (ultimate AI) спровоцировала энергетический кризис: один современный обучающий кластер начал потреблять столько же электричества, сколько средний промышленный город. На фоне ужесточения экологических сборов в Европе и США эксплуатация классических дата-центров с воздушным охлаждением стала убыточной, заставив гиперскейлеров Google и Microsoft полностью заморозить строительство традиционной инфраструктуры.
Термодинамика вместо электроники: жидкостный стандарт
Переход на архитектуру NVIDIA Rubin и массовое внедрение чипов B200 сделали воздух физически неспособным отводить тепло. При плотности тепловыделения свыше 300 Вт на квадратный сантиметр вентиляторы превратились в бесполезный шум.
Рынок перешел на прямое жидкостное охлаждение (DLC) и иммерсионные системы как на единственно возможный стандарт:
Экосистема Rubin: Новая платформа NVIDIA полностью избавилась от воздушного тракта. Теплоноситель в замкнутом контуре теперь нагревается до 45 °C, что позволяет использовать внешние сухие градирни (dry coolers) вместо энергоемких промышленных кондиционеров. Устранение вентиляторов и градирен внутри машинного зала позволило опустить коэффициент PUE (эффективность использования энергии) до 1,05. Там, где раньше 40% мощности дата центра уходило на охлаждение воздуха, теперь почти каждый ватт питает вычислительные ядра.
Световой барьер Вычислительная мощность чипов перестала быть главным узким местом. Настоящим тормозом прогресса стала внутренняя связность кластеров. При переходе от поколения H100 к B200 пропускная способность памяти (HBM) выросла на 40%, однако скорость обмена данными между самими ускорителями (inter-GPU bandwidth) увеличилась лишь на 15%. Медные проводники достигли предела: на сверхвысоких частотах они начинают работать как микроволновые печи, выжигая энергию в виде тепла и искажая сигнал. Ответом стал массовый переход на кремниевую фотонику (silicon photonics). Инвестиции в оптические интерконнекты превысили 500 миллионов долларов, так как только свет способен обеспечить плотность соединений, необходимую для обучения мультимодальных моделей:
Смена магистральных стандартов: На профильной выставке ECOC 2026 были представлены оптические модули стандарта 3,2T и 6,4T. В кластерах, объединяющих десятки тысяч ускорителей, производительность теперь лимитируется не скоростью матричного умножения, а скоростью перемещения данных между узлами. Оптика минимизирует потери сигнала, позволяя объединять GPU в единый виртуальный суперчип на больших расстояниях без задержек.
· 16.10
Вычисления съедают столько же, сколько небольшой город, — хорошая иллюстрация того, что за красивой картинкой всегда стоит производство. У меня оно своё: студия, организация и игра по собственной литературе, ищу финансирование.
Напишите, если интересно сотрудничество.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 19.10
Спасибо за оценку алоегории. Я всегда за новые за новые контакты.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён