🚀 AMD представила AI Workbench для управления ИИ

AMD запустила AI Workbench — инструмент с GUI и CLI для развертывания и управления ИИ-нагрузками на платформе Kubernetes.

Решение входит в AMD Enterprise AI Suite и позволяет быстро разворачивать AMD Inference Microservices (AIMs) — контейнеры с оптимизированными под AMD Instinct™ GPU моделями ИИ. AIMs доступны как Docker-образы и поддерживают OpenAI-совместимое API. Через интерфейс можно запускать рабочие среды (VS Code, JupyterLab), подключать токены Hugging Face, настраивать параметры генерации и сравнивать ответы моделей. Все нагрузки отслеживаются в реальном времени с метриками: время ответа, количество токенов, использование ресурсов.

Доступны функции low-code fine-tuning, RAG-пайплайны и интеграция с ChromaDB. Встроенный чат позволяет тестировать модели, а API-ключи обеспечивают безопасный доступ к endpoint'ам.

#amd #ai_workbench #llm #kubernetes #inference #rocm