Все началось с того, что я увидел пост про Ternary Bonsai 2 27B, которые засунули qwen 3.8 27B в 6 гигов весов, а теперь у меня 64 гига ram, qwen 3.8 flash next iq3_xxs и желание прочесть "Эффективный инференс LLM"

Все началось с того, что я увидел пост про Ternary Bonsai 2 27B, которые засунули qwen 3.8 27B в 6 гигов весов, а теперь у меня 64 гига ram, qwen 3 | Сетка — социальная сеть от hh.ru