Сравнение квантования AWQ 4-bit и FP8 в контуре суверенной инфраструктуры — это чистая физика шины памяти GPU и стоимость владения bare-metal узлом. На современном железе с нативным FP8 тензорными ядрами мы получаем максимальный throughput и минимальную деградацию метрик без overhead на распаковку. В то же время AWQ 4-bit остается компромиссным инструментом для legacy-парка видеокарт, где каждый гигабайт VRAM на вес золота, а egress fee облачных картелей заставляет выжимать плотность токенов из каждого ватта питания. Но перенос нагрузки в управляемые облака убивает саму экономику за счет скрытой аренды и штрафов за пиковый трафик. Стройте инференс на собственном железе под жестким контролем контура и забирайте суверенную маржу себе через https://run-as-daemon.dev