Локальные модели на своей видеокарте: что реально работает каждый день, а что скачали, запустили раз и забыли?
LFM3 в 4 битах весит около гигабайта, но авторы сами пишут, что для агентного кодинга она слабовата. Nemotron 3.5 Transcribe от Nvidia с открытыми весами официально просит H100 на 80 ГБ.
Я гоняю через Ollama и LM Studio. А у вас что остаётся в работе?
напишите коммент
1 коммент
можете перейти, но сначала проверьте ссылку и будьте аккуратны: не вводите по ссылке пароли, номера телефонов и банковских карт, и другие личные данные
https://
уверены, что хотите выйти?
придется авторизоваться заново, а заполненные данные будут удалены
пост закреплён — пока закрепить можно только один пост
что-то пошло не так — попробуйте снова чуть попозже
· 12 ч
https://www.liquid.ai/blog/lfm3 https://ollama.com/library/lfm3 https://github.com/ollama/ollama/releases/tag/v0.40.13 https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён