OpenAI показала собственный чип для запуска AI-моделей

Чип Jalapeño спроектирован вместе с Broadcom. При создании учтены особенности моделей и продуктовых сценариев OpenAI.

OpenAI обещает заметно лучшую производительность на ватт, чем у нынешних решений, но подробные тесты пока не показывает.

Первые дата-центры на Jalapeño планируют запустить к концу года.

https://openai.com/index/openai-broadcom-jalapeno-inference-chip/