Почему real-time подсказки и перевод рвутся посередине фразы, даже когда железо в порядке.
Не модель виновата. Облачные STT (Deepgram, AssemblyAI, Google) и LLM начинают тормозить: TTFT ползёт с 200 до 800+ мс, partials приходят с дырами. На живом звонке перевод опаздывает, companion-подсказка приходит поздно, практика языка с разбором грамматики срывается.
Talkaside меряет latency на каждом хопе: первый partial STT, TTFT провайдера, end-to-end. Если TTFS >80–100 мс или gap аудио растёт — авто-failover на следующий провайдер. Rolling buffer передаётся backup-у. Локальный Whisper/Parakeet в запасе.
В companion или language practice (27 языков) поток непрерывный. После — полный транскрипт с таймстемпами на диске.
Без замера и фейловера real-time — надежда, что провайдер не уснул.
