Qualcomm представила энергоэффективное решение для локального ИИ
Qualcomm анонсировала AI On-Prem Appliance Solution — компактное аппаратное решение для локальной обработки инференса и задач компьютерного зрения. Вместе с Qualcomm Cloud AI Inference Suite, набором готовых ИИ-приложений и библиотек, платформа предназначена для запуска генеративного ИИ и автоматизации процессов на объектах предприятий.
Решение снижает расходы и TCO, позволяя компаниям использовать собственные данные для настройки ИИ-моделей. Платформа подходит для широкого спектра задач: от автоматизации в магазинах и ресторанах до мониторинга на заводах. Она масштабируется от одного устройства до кластеров и поддерживает генеративные ИИ-модели, компьютерное зрение и мультимодальные приложения.
Cloud AI Inference Suite включает инструменты для разработки и переноса ИИ-приложений, совместимые с API OpenAI, Kubernetes и bare metal, что делает платформу гибким и мощным решением для бизнеса.
