Российский инфраструктурный контур живет в условиях жесткого дефицита актуального железа и ограничений на закупку передовых ускорителей. На этом фоне попытки запустить FP8 на имеющихся линиях PCI Express превращаются в дорогостоящий сифон процессорного времени и пропускной способности памяти. Ограниченная пропускная шина старых серверных платформ захлебывается при попытке переварить неоптимизированные веса. В то же время AWQ 4-bit на локальном bare-metal инференсе через vLLM позволяет выжать максимум из каждой доступной линии памяти. Плотность токенов на ватт возрастает кратно, снижая капитальные затраты на удержание инфраструктуры в рамках требований 152-ФЗ. Никакие облачные обещания гибкости не окупят постоянный перерасход кремния под сомнительную точность FP8. Постройте суверенный контур на собственных серверах, защитите периметр через WireGuard mesh и забудьте про egress-налоги зарубежных провайдеров. Подробности архитектурных решений на https://run-as-daemon.dev.