🔥 Гигантские нейросети теперь летают на ПК:вышел FreeToken

Главная фишка нового ИИ-движка — тонкая работа с архитектурой MoE. Нагрузка идеально распределяется между видеокартой, оперативкой и процессором.

В итоге самые тяжелые модели буквально летают на одной карте:

• Qwen3.6 35B на ноуте с RTX 4060 8GB — 39 токенов/сек; • DeepSeek-V4-Flash 284B на RTX 5090 — 22–25 токенов/сек.

https://github.com/FlashML-org/FreeToken

#FreeToken #нейросети #AI #MoE #RTX