⚡ Автоскейлинг LLM с Ray и ROCm 7.0.0
AMD представила решение для масштабирования инференса LLM на своих GPU.
Решение объединяет Ray Serve с vLLM, ROCm 7.0.0 и SkyPilot. Ray Serve управляет числом реп
читать далее
#skypilot
звёзды индустрии
Менеджер по привлечению талантов в МТС
ex-директор по ИИ в Т-Банк (ex. Тинькофф)
HR Business Partner • автор HR на Драйве
PR-директор в Авиасейлс
IM Lead / Influence marketing Lead в Додо Пицца
