d-Matrix представила ИИ-ускоритель Corsair для высокоэффективного инференса

Стартап d-Matrix анонсировал ускоритель Corsair, оптимизированный для быстрого пакетного инференса больших языковых моделей. Устройство основано на SRAM-ячейках DIMC с пропускной способностью до 150 Тбайт/с и обеспечивает до 2400 Тфлопс в MXINT8-вычислениях. Массовое производство начнётся во II квартале.

Corsair поддерживает модели до 70 млрд параметров, такие как Llama3, обеспечивая в 10 раз более низкие задержки по сравнению с NVIDIA H100. Одно шасси вмещает до восьми карт Corsair, а стойка — до 64 карт с энергопотреблением 6–7 кВт.

Следующее поколение ускорителей, Raptor, запланировано на 2026 год и получит больше памяти благодаря интеграции DRAM с чиплетами и переходу на 4-нм техпроцесс.