🍾**** Победа! Мой yforge быстрее llama.cpp!

В ближайшее время сделаю сайт где можно будет скачать билд для windows и linux для самостоятельного запуска моделей на своей устройстве.

В качестве web интерфейса не стал выдумывать и использовал open webui.

Приложил видео с демонстрацией работы в реальном времени и своей новой песней.