Оценка железа под LLM

(часть 4 серии про оценку ML-задач в банке)

В предыдущем посте мы разобрали как можно оценить количество подов. Но ошибиться в их количестве не так страшно по сравнению с количеством GPU, которые стоят в десятки раз дороже.

Листайте карточки, в них я показываю, на что нужно обращать внимание.

#процессы

Оценка железа под LLM | Сетка — социальная сеть от hh.ru Оценка железа под LLM | Сетка — социальная сеть от hh.ru
Оценка железа под LLM | Сетка — социальная сеть от hh.ru Оценка железа под LLM | Сетка — социальная сеть от hh.ru Оценка железа под LLM | Сетка — социальная сеть от hh.ru Оценка железа под LLM | Сетка — социальная сеть от hh.ru Оценка железа под LLM | Сетка — социальная сеть от hh.ru Оценка железа под LLM | Сетка — социальная сеть от hh.ru