🚀 Unsloth ускоряет дообучение LLM на GPU NVIDIA
Unsloth позволяет быстро дообучать LLM на потребительских и профессиональных GPU NVIDIA.
Фреймворк оптимизирован под архитектуру CUDA и работает на устройствах от GeForce RTX 50 до DGX Spark. Поддерживает LoRA, QLoRA и полное дообучение с 2,5× ускорением за счёт кастомных ядер. Экономит VRAM, что критично для локального обучения. Примеры — настройка чат-ботов, ассистентов, агентов.
DGX Spark с 128 ГБ унифицированной памяти позволяет дообучать модели >30 млрд параметров. Nemotron 3 Nano (30B) уже доступна для дообучения через Unsloth и Hugging Face.