llmfit

Это инструмент, предназначенный для определения совместимости различных моделей больших языковых моделей (LLM) с вашим оборудованием.

Он поддерживает 157 моделей от 30 различных провайдеров, позволяя пользователям быстро оценить, какие из них могут быть запущены на их системе.

Программа предоставляет удобный интерфейс для анализа и выбора подходящих моделей, оптимизируя процесс настройки и использования LLM.

Lang: Rust https://github.com/AlexsJones/llmfit