Главная фишка нового ИИ-движка — тонкая работа с архитектурой MoE. Нагрузка идеально распределяется между видеокартой, оперативкой и процессором.
В итоге самые тяжелые модели буквально летают на одной карте:
• Qwen3.6 35B на ноуте с RTX 4060 8GB — 39 токенов/сек; • DeepSeek-V4-Flash 284B на RTX 5090 — 22–25 токенов/сек.
напишите коммент
2 коммента
можете перейти, но сначала проверьте ссылку и будьте аккуратны: не вводите по ссылке пароли, номера телефонов и банковских карт, и другие личные данные
https://
уверены, что хотите выйти?
придется авторизоваться заново, а заполненные данные будут удалены
пост закреплён — пока закрепить можно только один пост
что-то пошло не так — попробуйте снова чуть попозже
· 17.09
Только нужно оговориться, что скорость ответа будет низкой, а стоимость памяти для модели 284B будет недешёвой (не каждому по-карману). А так, да. Зависимость от онлайн агентов теперь реально можно уменьшить, но с оговоркой, что точность ответов модели всё равно будет несравнимо хуже онлайн агентов.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 17.09
Модель на локальной машине будет априори медленнее, но зато безопаснее
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён