Первый тест 5080

Итак, на 5080 оригинальный OpenAI Whisper в режиме вычислений на CUDA распознаёт 5 часов видео за 1 час 20 минут

В то время как FasterWhisper на CPU с включённым квантованием - 20 часов.

Вывод очевиден.... :)

На очереди - тестирование работы локально установленной LLama