LLM х RecSys = ?

Почти все продакшен рекомендации состоят из 2ух частей: стабильные предпочтения пользователя + рекомендации по последним взаимодействиям

До недавних пор основной прогресс был за счет последних взаимодействий

-> Переход к real-time рекомендациям -> Похожие товары на последние клики -> SLIM/EASE по последним действиям -> SASRec -> Даже модный HSTU в основном опирается на последние действия

При этом стабильные предпочтения моделировались простым подходом вроде ALS над покупками за последний год - и было норм. Но в 2025 году вышло штук 5 статей от крупных компаний про учет стабильных предпочтений юзера через LLM с приличными приростами бизнес-метрик

И в вот этот кейс применения LLM я вполне верю (и он даже самоокупается!):

- Стабильные предпочтения пользователя по определению редко меняются. Можно прогонять LLM лишь раз в неделю и только по юзерам с новыми действиями = не так много запросов к LLM + тайминги ответа не важны

- Нетривиальная связь покупки товара Х и интереса юзера. Например, купил палатку -> вероятно, есть интерес ко всему походному (одежда, экипировка, сублиматы и тп), а не только палатки и вокруг них. ALS такую взаимосвязь не выучит, а LLM - вполне

- Особенность рексис Как правило, за год-два почти все товары (и их item_id) в базе обновляются. Фактически это означает, что модели, завязанные на item_id очень быстро устаревают = плохо работают с учетом интереса юзера на горизонте 1-3 года. И в этом проблема ALS. Но LLM работают с текстом (название + описание), который все еще актуален и спустя 3 года — это позволяет LLM лучше «пережить» обновление товаров (и item_id) с течением времени

В совокупности, эти 3 фактора привели к буму LLM в рекомендациях в 2025г. Но почти только в рекомендациях на основе стабильных предпочтений. В учете недавней истории все еще царят SASRec и HSTU

Занятные статьи про LLM для учета стабильных предпочтений в рексис: RecGPT от Taobao, моделька от LinkedIn, и отчасти PLUM от Google

В общем, некоторый LLM-прорыв имеется 🚀