🚀 Unsloth ускоряет дообучение LLM на GPU NVIDIA

Unsloth позволяет быстро дообучать LLM на потребительских и профессиональных GPU NVIDIA.

Фреймворк оптимизирован под архитектуру CUDA и работает на устройствах от GeForce RTX 50 до DGX Spark. Поддерживает LoRA, QLoRA и полное дообучение с 2,5× ускорением за счёт кастомных ядер. Экономит VRAM, что критично для локального обучения. Примеры — настройка чат-ботов, ассистентов, агентов.

DGX Spark с 128 ГБ унифицированной памяти позволяет дообучать модели >30 млрд параметров. Nemotron 3 Nano (30B) уже доступна для дообучения через Unsloth и Hugging Face.

#llm #nvidia #unsloth #ai_training #dgx #finetuning

🚀 Unsloth ускоряет дообучение LLM на GPU NVIDIA
Unsloth позволяет быстро дообучать LLM на потребительских и профессиональных GPU NVIDIA | Сетка — социальная сеть от hh.ru