NVIDIA представила ИИ ускорители H200 NVL и GB200 NVL4

NVIDIA анонсировала ускоритель H200 NVL в формате двухслотовой PCIe-карты. Устройство имеет 141 Гбайт памяти HBM3e с пропускной способностью 4,8 Тбайт/с и TDP 600 Вт. До четырёх карт объединяются через NVLink с пропускной способностью 900 Гбайт/с, а одна серверная система может содержать до восьми ускорителей с общей памятью 1126 Гбайт. Производительность достигает 3,34 Пфлопс (FP8), комплект включает лицензию NVIDIA AI Enterprise.

Ускоритель GB200 NVL4 оснащён жидкостным охлаждением, двумя суперчипами Grace-Blackwell с 72-ядерными процессорами Grace и четырьмя ускорителями B100. Устройство объединяет 960 Гбайт памяти LPDDR5X ECC и 768 Гбайт HBM3e. NVLink-C2C обеспечивает 900 Гбайт/с между шестью чипами CPU-GPU.

GB200 NVL4 поддерживает M.2 SSD, до восьми NVMe-накопителей и шесть PCIe 5.0 x16 слотов. Формат 2U, масса 45 кг, настраиваемый TDP от 2,75 до 5,5 кВт. Оба ускорителя предназначены для высокопроизводительных вычислений и ИИ-задач.