Post-hoc explanations for sequential recommendation systems

Abstract

[en] Nowadays, whether we are aware of it or not, recommender systems surround us everywhere: in the posts we see on social media, TikTok and YouTube videos, or Amazon products. These models are increasingly accurate but at the same time much more complex and difficult to interpret, functioning as "black boxes." As curious users, we might wonder: why did it recommend this and not something else? What was its recommendation criterion? However, these systems rarely provide understandable answers like "I recommended this product because you previously interacted with similar products" or "this song appears because you listened to artists from the same genre last week."

The main goal of this work is to develop and evaluate post-hoc explanation methods that generate interpretable explanations for sequential recommender systems, of the type "I recommend X because you previously interacted with Y and Z." We focus on transformer-based models, specifically SASRec and BERT4Rec, analyzing how to identify and present the most influential past interactions for each recommendation. Through rigorous mathematical analysis and empirical evaluation using counterfactual metrics, we demonstrate how different attribution techniques can generate causal explanations that connect current recommendations with user behavior history. The analysis conducted in this thesis demonstrates that it is possible to generate effective causal explanations and thus make recommender systems more transparent and understandable, allowing users to comprehend the reasoning behind each suggestion.

[ca] Avui en dia, siguem o no conscients d’això, els sistemes de recomanació ens envolten per tot arreu: en les publicacions que veiem a les xarxes socials, els vídeos de TikTok i YouTube, o els productes d’Amazon. Aquests models són cada vegada més precisos però alhora també molt més complexos i difícils d’interpretar, funcionant com a "caixes negres". Com a usuaris curiosos ens podem preguntar: per què m’ha recomanat això i no una altra cosa? Quin ha estat el seu criteri de recomanació? No obstant això, aquests sistemes rarament proporcionen respostes comprensibles del tipus "t’he recomanat aquest producte perquè anteriorment vas interactuar amb productes similars" o "aquesta cançó apareix perquè vas escoltar artistes del mateix gènere la setmana passada".

L’objectiu principal d’aquest treball és desenvolupar i avaluar mètodes d’explicació post-hoc que generin explicacions interpretables per a sistemes de recomanació seqüencials, del tipus "et recomano X perquè prèviament vas interactuar amb Y i Z". Ens centrem en models basats en transformers, específicament SASRec i BERT4Rec, analitzant com identificar i presentar les interaccions passades més influents per a cada recomanació. A través d’una anàlisi matemàtica rigorosa i una avaluació empírica utilitzant mètriques contrafactuals, demostrem com diferents tècniques d’atribució poden generar explicacions causals que connecten les recomanacions actuals amb l’historial de comportament de l’usuari. L’anàlisi realitzada en aquest TFG posa de manifest que és possible generar explicacions causals efectives i fer així els sistemes de recomanació més transparents i comprensibles, permetent als usuaris entendre el raonament darrere de cada suggeriment.