В 03:00 легко объявить CNI виновником задержек inference. Типовой разбор: p99 скачет, GPU недогружен, команда предлагает hostNetwork ради микросекунд. Но задержка установления соединения уже съедает миллисекунды. Прежде чем снимать сетевую изоляцию, найдите очередь, в которой запрос ждёт воркера. В сетевом namespace воркера запускаем ss -lnt sport = :8000 и nstat -az TcpExtListenOverflows TcpExtListenDrops. Для LISTEN сокета Recv-Q показывает соединения, ожидающие accept(), Send-Q — предел очереди. Снимаем несколько замеров под нагрузкой: заполнение очереди вместе с приростом ListenOverflows указывает на переполнение. Счётчики относятся ко всему namespace, поэтому один nstat конкретный порт не осудит. При tcp_abort_on_overflow=0 переполнение может обернуться повторными передачами и задержкой вместо немедленного RST. В этой ветке расследования затор — на приёме соединений приложением. Проверяем паузы accept(), переиспользование соединений и backlog: его верхнюю границу ограничивает net....