Первый тест 5080
Итак, на 5080 оригинальный OpenAI Whisper в режиме вычислений на CUDA распознаёт 5 часов видео за 1 час 20 минут
В то время как FasterWhisper на CPU с включённым квантованием - 20 часов.
Вывод очевиден.... :)
На очереди - тестирование работы локально установленной LLama