400 000 GPU — это сколько? Почти целая электростанция в Мытищах 🤣

Дженсен Хуанг заявил, что AGI уже достигнут. И рядом назвал следующую цифру масштаба: совсем скоро для обучения топ-нейросети потребуется переход от 100 тысяч GPU к 400 тысячам. Сама цифра почти ничего не говорит. Поэтому переведём её в железо и электричество.

Если считать на архитектуре NVIDIA Blackwell: 🟦около 5 556 серверных стоек; 🟦примерно 800 МВт с охлаждением и инфраструктурой ЦОД; 🟦почти 7 млрд кВт·ч в год, если такая система работает под полной нагрузкой постоянно; 🟦несколько футбольных полей только под серверные залы. Весь кампус будет заметно больше.

Теперь сравнение, которое вы вряд ли ожидали... В Мытищах работает ТЭЦ-27. Её установленная электрическая мощность - 1 060 МВт. То есть кластер на 400 тысяч GPU в такой конфигурации мог бы потреблять примерно 75% мощности этой станции.

Конечно, 400 тысяч GPU не означают, что все они завтра окажутся в одном здании и будут одновременно обучать одну модель. 800 МВт = оценка масштаба. Но цифра хорошо показывает, куда всё пришло.

Вот почему AI-гонка всё сильнее становится ещё и энергетической. И да... похоже, новые модели скоро действительно удобнее будет сравнивать не только по бенчмаркам, но и по электростанциям.

💬 Присоединиться к обсуждению в чате Телеграм канал Андрей Анисимов @ideasforai

В этом посте были ссылки, но мы их удалили по правилам Сетки