Продолжаю эксперимент. Just 4 fun.

granite-3.1-8b-instruct - 22.68 tok/sec- быстро. Но такой бред выдало! qwq-32b - 2.09 tok/sec - Тормозилло. 6 минут только размышлял. Но рерайт хороший. phi-4 - 6.82 tok/sec - Рерайт норм. Скорость ну... aya-23-8b - 22.82 tok/sec - тоже быстро. Понимает текст и добавляет полезную отсебятину. Но туповата. Например, пишет рецепт свиных крылышек.

Как-нибудь потом попробую все на GTX1650.