Оценка железа под LLM
(часть 4 серии про оценку ML-задач в банке)
В предыдущем посте мы разобрали как можно оценить количество подов. Но ошибиться в их количестве не так страшно по сравнению с количеством GPU, которые стоят в десятки раз дороже.
Листайте карточки, в них я показываю, на что нужно обращать внимание.