Облачный бакет для весов — удобная витрина и плохой тракт данных. Инференс живет на PCIe и HBM, а не на HTTPS к объектному хранилищу. Пока страница весов не в page cache узла, ускоритель считает воздух. Чекпойнт 70B в fp16 — около 140 ГБ. NVMe Gen4 x4 с прямым mmap или O_DIRECT через io_uring отдает такой объем за 20-25 секунд на 6-7 ГБ/с. Тот же объем даже на 1 ГБ/с из бакета — больше двух минут, на канале филиала 200 МБ/с — около 12 минут. Это простой GPU, а не холодный старт пода. Повтор стоит отдельно. Восемь реплик и три холодных старта: 8 x 140 ГБ x 3 = 3.36 ТБ egress. По публичным $0.09/ГБ это около $300, без GET и без счета за простой ускорителей. Массив 4x3.84 ТБ U.2 покупается один раз, чтение остается внутри стойки, копия весов не гуляет между регионами и не размазывает контур 152-ФЗ. Прямой доступ к NVMe — граница суверенного шлюза: веса рядом с vLLM, сеть только для запросов. Предельную стоимость токена считаем на своем железе: https://run-as-daemon.dev/?utm_source=telegram&utm_medium=smm&utm_campaign=rad_ru&utm_content=hranenie-vesov-modeley-na-vysokosko