🚀 llama.cpp получил менеджер моделей
Появилась возможность динамически загружать и переключаться между моделями без перезапуска сервера.
Режим роутера в llama.cpp позволяет управлять несколькими GGUF-
читать далее
#gguf
звёзды индустрии
Директор по маркетингу и PR в HeadHunter
Project manager в Lamoda
HR-бизнес-партнер (HR BP) в Золотое яблоко Екатеринбург
IM Lead / Influence marketing Lead в Додо Пицца
CPO Яндекс Go для бизнеса (B2B)
