запуск проекта: "Бомж-ML сервер"
запуск проекта
·
октябрь 2025
Состав сборки примерно такой: 1. Китай мама x99 с серверным чипсетом 2. ОЗУ 4x32GB, 4x8GB DDR4 ECC REG 3. Intel DC SSD 980GB 4. Tesla P4 8GB и V100 16gb (на переходнике SXM2-PCIE) 5. Xeon E5-2640 v4 6. Какой-то NVMe
Все покупалось на алике или авито, обошлось примерно в 80к. А ну ещё доступ к этому чудищу осуществляется через wifi. В целом сервак прекрасно показывает себя в небольших ML задачах.
· 28.10.2025
Крутяк!👍 А, какие задача решаешь на этом чуде?))
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 28.10.2025
В основном всякие хакатонские задачи связанные с RecSys и LLM, есть свой проект связанный с LLM, но там я смог пока что смог небольшую часть датасета сформировать, до запуска модели пока что далеко. Ну еще на нем бонусом k8s кластер развернут со сломанным elk стеком))
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 28.10.2025
Ооо, нормас!!!))) LLM свою или стороннюю берёшь?)
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 28.10.2025
Думаю свою делать(что то типо Transformer Like плюс всякие новые техники по типу MoE), но с большим количеством параметров (~7b) вряд ли получится обучить, но и задача вроде как узкая, так что думаю должно что-то получиться, если нет то готовую модель дообучу, для меня это больше Just For Fun проект чтобы применить знания на практике.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 28.10.2025
Ждем на hugging face?)
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 28.10.2025
Было бы круто)
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён