⚡ Автоскейлинг LLM с Ray и ROCm 7.0.0
AMD представила решение для масштабирования инференса LLM на своих GPU.
Решение объединяет Ray Serve с vLLM, ROCm 7.0.0 и SkyPilot. Ray Serve управляет числом реп
читать далее
#aicloud
звёзды индустрии
Менеджер по привлечению талантов в МТС
Директор по ИИ в Т-Банк (ex. Тинькофф)
HR-бизнес-партнер (HR BP) в Золотое яблоко Екатеринбург
PR-директор в Авиасейлс
IM Lead / Influence marketing Lead в Додо Пицца
