NVIDIA открыла код платформы, которая помогает GPU меньше простаивать

Run распределяет видеокарты между командами и AI-задачами. Например, если одной команде не хватает мощности для обучения модели, а другая использует свои GPU лишь частично, Run позволяет задействовать свободные ресурсы по заданным правилам.

Система работает поверх Kubernetes. Подходит для разработки, обучения и запуска моделей на своих серверах или в облаке.

https://developer.nvidia.com/blog/nvidia-runai-is-now-open-source-as-part-of-nvidia-dsx-ai-factory-platform/