Эмбеддинги от разных моделей нельзя складывать в одну базу

Эмбеддинг превращает текст в набор чисел — координаты, по которым система ищет близкие по смыслу фрагменты. Но у каждой модели своя система координат. Даже если длина векторов совпадает, одинаковая фраза окажется в разных числовых пространствах.

Поэтому после замены embedding-модели нельзя пересчитать только новые документы или только поисковые запросы: сравнение со старыми векторами начнёт давать случайно похожие расстояния, а поиск и RAG могут незаметно ухудшиться.

Надёжное правило: хранить название и версию модели вместе с индексом, а при смене модели заново обработать весь корпус. Совпавшее число координат ещё не означает совместимость.

#эмбеддинги #RAG #векторныйпоиск

Эмбеддинги от разных моделей нельзя складывать в одну базу
Эмбеддинг превращает текст в набор чисел — координаты, по которым система ищет близкие по смыслу фрагменты | Сетка — социальная сеть от hh.ru