Кластер из 6 узлов на ROCm — работает и обновляется 6 × (Ryzen 9 3900XT + Vega Frontier gfx900 + ConnectX-4) 1 × Mikrotik 16-port SFP+ (DAC/OAC, 10GbE, RDMA)
Софт: ROCm 7.2.4 | PyTorch 2.14.0 | llama.cpp 0.4.0 | Gentoo, source build, ccache
Что сделано: Патчи для ROCm и PyTorch под gfx900 Собственные ebuild-оверлеи + патчи для миграции с glog на ng-log RDMA через RoCEv2
Для кого это: 1–2 разработчика. Средние модели (7B–13B). Бюджетное железо. Не H100, не кластер на миллионы. Но работает. Есть похожее железо? Хотите повторить?