Ночью 17 мая RAG-пайплайн упал: внешний Qdrant (AWS us-east-1) не находил документы при пороге similarity > 0.75. Локальный стенд — тот же BGE-M3, но на bare-metal RTX 4090 + Qdrant 1.11 с int8 quantization — выдал 12 совпадений за 47 мс. Разница? В облаке эмбеддинги прошли через три слоя: клиент → API gateway → embedding endpoint → storage, каждый раз теряя биты в FP16. У нас — прямой вызов ONNX-раннера с AVX-512, без перекодировок. Стоимость месяца работы: локально — 18 тыс. ₽ (электричество + амортизация), в облаке — $1.2K только за embedding calls + egress fees. Плюс риск нарушения 152-ФЗ: данные покинули РФ, даже если вы «выбрали» регион Frankfurt. Суверенная инфраструктура — это когда ваша косинусная близость не зависит от маршрута BGP-таблиц гиперскейлера. Подробнее: https://run-as-daemon.dev/?utm_source=telegram&utm_medium=smm&utm_campaign=rad_ru&utm_content=lokalnye-bazy-vektornyh-embeddingo

Ночью 17 мая RAG-пайплайн упал: внешний Qdrant (AWS us-east-1) не находил документы при пороге similarity > 0.75. Локальный стенд — тот же BGE-M3, но на bare-metal RTX 4090 + Qdrant 1 | Сетка — социальная сеть от hh.ru