Даниэль Хан, бывший инженер Nvidia, ужал модель Qwen3.8-27B до 6 ГБ - и она запускается на ноутбуке с 8 ГБ памяти.

Сам он этот файл выпускать не хотел: 1 бит на вес - это почти вандализм над моделью. Передумал, когда на внутренних тестах она сохранила 77% точности оригинала. "Мы были в шоке", - пишет он. Оригинал весит 55 ГБ.

Хан делает это не один. Компания называется Unsloth, основали её два брата из Австралии - Даниэль и Майкл. Команда - меньше двадцати человек, денег поднимали крохи по меркам ИИ-рынка. При этом их сборки скачали больше 200 миллионов раз. Когда выходит новая открытая модель, первое, что делают миллионы людей, - идут не к авторам модели, а к Unsloth за "ужатой" версией.

tg / max

В этом посте были ссылки, но мы их удалили по правилам Сетки