GigaIO и d-Matrix объединяют усилия для масштабируемого ИИ-инференса

Компании GigaIO и d-Matrix интегрировали ИИ-ускорители Corsair в архитектуру SuperNODE, создав масштабируемую платформу для инференса, способную обрабатывать до 30 тысяч токенов в секунду. Устройство Corsair на основе DIMC-технологии обеспечивает 2,4 Пфлопс производительности при TDP 600 Вт, а фирменная архитектура FabreX от GigaIO позволяет объединять десятки таких ускорителей в одном узле. Решение обещает втрое большую энергоэффективность и производительность по сравнению с традиционными GPU-системами, при этом упрощая внедрение ИИ и снижая стоимость владения.