Почему real-time подсказки и перевод рвутся посередине фразы, даже когда микрофон чистый и интернет вроде живой.
В production STT latency измеряют TTFS — time to final segment. Хорошие облачные (Deepgram, AssemblyAI) дают медиан 250–500 мс на финал. P99 скачет до 800–1500 мс из-за нагрузки или очереди. Сеть +20–80 мс. Перевод опаздывает, companion отвечает после тебя.
Talkaside меряет latency на каждом провайдере. Если TTFS/partial >80–100 мс — авто-failover на следующий: другой облако или локальный Whisper/Parakeet (CPU/CUDA/Vulkan). Два независимых потока (микрофон + loopback), свои пайплайны. Без каши.
Companion на любом звонке: клиент, стендап, практика. Подсказки из контекста и CV. После — транскрипт с таймстемпами, поиск, экспорт, AI-сводка. История на машине.
Без замера и фейловера real-time — лотерея.
