Генеративные ML-модели в рекомендациях. Беглый взгляд. Что такое генеративные модели? Раньше большинство рекомендательных моделей были дискриминативными. Дискриминативная модель оценивает каждый готовый товар отдельно. Она отвечает: «Насколько этот товар подходит пользователю?» Затем товары с высокими оценками попадают в выдачу. Генеративная модель работает иначе. Она последовательно генерирует товары или их коды. Модель отвечает: «Какой товар должен быть следующим?» Наверное, вы видели, как ChatGPT выводит ответ слово за словом. Полностью генеративная рекомендательная модель похожим образом создаёт последовательность товаров. Такие модели уже появляются в продакшене. Но пока редко заменяют весь рекомендательный пайплайн. Обычно это слишком дорого и сложно контролировать.

Как генеративные модели используют в рекомендациях сейчас? Самый частый подход — улучшение классической связки «ретривел → ранкер». Ретривел отбирает кандидатов, а ранкер определяет их порядок. В текущий пайплайн добавляют отдельный генеративный канген на этапе Ретривела. Его кандидаты объединяются с кандидатами классических моделей. После этого общий ранкер формирует финальную выдачу. Такой подход используют Shopify, Pinterest и Tmall.

В чём основные преимущества? Я бы выделил два преимущества: работу с семантической структурой товаров и сбор товаров под потребность клиента целиком. В семантической структуре каждому товару можно присвоить Semantic ID. Он описывает смысловое положение товара среди других товаров. Например, новый соус для немецких колбасок сразу окажется рядом с похожими соусами. Поэтому его можно быстрее начать рекомендовать покупателям немецких колбасок через завязку на Semantic ID.

Второе преимущество — последовательная сборка связанного набора товаров. Каждый следующий товар учитывает уже выбранные позиции. Например, модель может собрать набор для шашлычной вечеринки: мясо → уголь → соус → салфетки. Классические модели тоже умеют решать такие задачи. Но обычно им нужны отдельные алгоритмы, правила или slate-ranking.

К чему всё идёт? Модели всё лучше используют смысл товаров и общий контекст. «Детям — мороженое, женщинам — цветы. Смотри не перепутай», — говорил герой советского фильма. Раньше такую связь нужно было находить только в поведении пользователей. Например, через склонность сегмента «дети» покупать мороженое. Теперь модели дополнительно используют тексты, изображения и знания предобученных моделей. Поэтому новые связи можно находить эффективнее и быстрее.