Почему даже 45-мс облачный STT превращается в 300+ мс паузу на живом звонке, когда провайдер внезапно тормозит.
Бенчмарки Soniox STT RT v5 показывают mean TTFS 45 мс, Qwen3 ASR ~35 мс. Но это от конца речи до финального сегмента в лаборатории. На Windows shared-mode WASAPI уже добавляет 5–12 мс периода Audio Engine + DPC/ISR 100–2000 µs. Сеть + очередь провайдера легко дают ещё 150–600 мс. Partial приходит, когда ты уже начал отвечать. Companion молчит, перевод опаздывает.
Talkaside мерит latency на каждом partial. Если TTFS >80–100 мс или partial >300 мс — авто-failover на следующий провайдер или сразу на локальный Whisper/Parakeet (150–400 мс без сети). Dual-stream WASAPI держит стороны отдельно, каждый ресемплится в 16 кГц mono со своим VAD. Companion берёт чистый транскрипт + CV и выдаёт короткие формулировки в панели.
История и AI-сводка остаются на диске. Ты выбираешь провайдеров. На любом звонке подсказки не срываются из-за одного лагающего бэкенда.