Gemma-3-1B-it-GLM-4.7-Flash-Heretic-Uncensored-Thinking_GGUF помедленнее, но и поумнее похоже. Рассказала о себе кратко и правильно.

Phi - как гемма. Нормально.

Qwen3-0.6B - размышляет что-то там себе... Быстрая.

bitnet-b1.58-2B-4T - Error: tensor "blk.0.ffn_down.weight" size overflow = не судьба.

BLING - отвечал командами для агента.

POCKET-35B - пишут, что можно запустить даже на телефоне. По факту думала так долго, что я успел попить чай. Говорит, что она Qwen.

— hf.co/Qwen/Qwen3-0.6B-GGUF:latest - думает и отвечает быстро.

hf.co/lm-kit/phi-4-mini-3.8b-instruct-gguf:latest - видно как пишет "токенами". Ну и размер самый большой из тройки.

hf.co/Andycurrent/Gemma-3-1B-it-GLM-4.7-Flash-Heretic-Uncensored-Thinking_GGUF:latest - что-то среднее между первыми двумя. Но очень хорошо рассказала о себе.

Интересно, что прошлый раз (~ год назад) у меня был неудачный опыт с нейросетями на этом CPU.