Споры вокруг точности квантования моделей на корпоративных инсталляциях часто упираются в маркетинговые мифы об FP8. На практике в условиях дефицита серверного железа узким горлышком становится пропускная способность памяти и шина PCIe, а не объем видеопамяти. Формат AWQ 4-bit позволяет упаковать веса плотнее, снижая нагрузку на память и удерживая предсказуемый throughput на локальном bare-metal vLLM. В то время как FP8 требует более свежих архитектур и часто упирается в избыточный оверхед при работе на гетерогенных российских мощностях, съедая маржу на обслуживание каждого токена. Суверенная инфраструктура строится на владении кривой предельной стоимости токена, а не на слепом копировании облачных трендов гигантов. Заходите на https://run-as-daemon.dev, чтобы строить прозрачный bare-metal контур без навязанных переплат.