LLM долгосрочные интересы пользователя

Понемногу LLM-ки находят полезное применение в рекомендациях!

Обычная реком система упрощенно устроена так:

• Модель на короткой realtime истории пользователя (SLIM, SASRec, …) вытаскивает товары текущего интереса
• Модель на очень длинной offline истории пользователя (часто ALS, LightFM) вытаскивает некие долгосрочные интересы
• Их результаты смешиваются и переранжируются

Есть гипотеза, что кусочек с длинной историей можно обрабатывать LLM-кой и вытаскивать оттуда доп профит!

Отчасти такой подход сработал в Taobao (их модель RecGPT v2). Ну и мы в Я.Маркете тоже внедрили свою адаптацию - Влад из моей команды недавно рассказал об этом на ML Party

Подход относительно простой, но с кучей подводных камней: о них как раз в нашем докладе 😎