推荐系统中的供应商端可解释性与反事实解释

WSDMNov, 2019

推荐系统中的供应商端可解释性与反事实解释

PRINCE: Provider-side Interpretability with Counterfactual Explanations in Recommender Systems

Azin Ghazimatin, Oana Balalau, Rishiraj Saha Roy, Gerhard Weikum

TL;DR本研究提出一种名为 PRINCE 的可解释机制，以在提高终端用户信任的同时提供最小化行动的解释，实现了可读、可操作、简明的解释。该机制能够在两个真实世界数据集上提供比直观基线更紧凑的解释，并且众包用户研究的洞见表明了基于行动的解释的可行性。

Abstract

interpretable explanations for recommender systems and other machine learning models are crucial to gain user trust. Prior works that have

interpretable explanations recommender systems machine learning prince minimal actions

发现论文，激发创造

反事实可解释推荐

本文提出 Counterfactual Explainable Recommendation（CountER）模型，并利用因果推理的洞见进行解释，通过联合优化来生成新的最小更改使得机器推荐相反的物品，以便形成推荐的原因解释，具有更高的解释质量。

Aug, 2021

强化路径推理用于反事实可解释推荐

本文提出了一种基于新型可解释性推荐 (CERec) 的方法，利用基于项目属性的反事实解释来提高推荐效果，采用强化学习环境中均匀搜索候选反事实，通过适应路径采样器，使用给定的知识图的丰富上下文信息来缩小巨大的搜索空间。此外，在推荐模型中部署解释策略以提高推荐。

Jul, 2022

神经推荐系统的反事实解释

本文提出了 ACCENT，一个基于影响函数的通用框架，用于找到深度神经网络推荐系统的因果解释。我们利用 ACCENT 生成了针对两种流行的神经网络模型（NCF 和 RCF）的因果解释，并在 MovieLens100K 数据集的样本上表明其可行性。

May, 2021

学习如何因果解释推荐

通过使用反事实逻辑，即 “如果您不与以下项目互动，我们将不推荐它”，我们探讨了如何解释推荐系统的推荐。我们提出了一个基于学习的框架来生成反事实说明，该框架训练一个代理模型来学习删除用户历史记录子集对推荐的影响，进而找到代理模型预测的最有可能删除推荐的历史记录子集，从而生成解释。通过离线实验和在线用户研究，我们发现相比于基线方法，我们的方法可以生成更加合理和令用户更满意的解释。

Nov, 2022

基于属性的推荐系统事后解释：RecXplainer

本文提出了一种新方法 RecXplainer，基于用户对推荐项目属性的偏好生成了更细粒度的推荐解释，并使用真实数据集进行了实验进行了评估，结果表明 RecXplainer 能够更好地捕捉用户的喜好，并且相比六种基线方法，RecXplainer 在提供推荐解释方面有更显著的效果。此外，作者还提出了十种新的推荐解释评估度量标准。

Nov, 2022

基于用户反馈的反事实解释介绍 (UFCE)

本研究引入了一种新的方法论，名为用户反馈式反事实解释（UFCE），以解决当前反事实解释算法的局限性，并旨在提高对提供的解释的置信度。实验证明，UFCE 在接近度、稀疏度和可行性方面胜过两种著名的 CE 方法，并指出用户约束对生成可行的反事实解释具有影响。

Feb, 2024

反事实解释与主要原因背后的隐含假设

本文探讨了现有的 feature-highlighting explanations 模型中存在的主要问题，包括推荐的特征变化是否直接映射到现实世界、特征是否只与当前的决策相关以及隐藏模型的需求与有用解释之间的张力等。需要更多的理解和研究才能有效地实施这些技术。

Dec, 2019

使用概率对比假设解释黑盒算法

该研究提出一种基于因果关系的方法来解释黑盒决策系统，并使用概率对比反事实证明其有效性，能够为受算法决策影响的个体提供可行的补救措施。该方法不需要了解算法内部结构，能够计算全局、局部和情境层面的有效解释和补救措施。经实验证明，该方法较 XAI 的其他流行算法效果更好。

Mar, 2021

文本分类的任意生成对抗解释

在机器学习中，理解分类器推荐或预测背后的推理对用户非常重要。然而，学习的模型通常太复杂，以至于人类难以理解。本文提出了一个通用框架，用于在文本领域生成反事实解释，这个框架是不限于模型、表示和领域的，并且可以随时使用。本文将任务建模为通过替换文本的各个部分来转换初始状态为分类文本的搜索问题，包括独立于领域的运算符，但也可以通过专门的运算符利用领域特定的知识。搜寻算法试图找到距离原始分类对象具有最小的基于单词级别的 Levenshtein 距离的互补类文本。

Nov, 2022

决策、反事实解释与战略行为

本文旨在在战略环境下寻找最优的政策和对策解释，包括 NP 难的问题，非降性和子模性，用标准贪心算法获得近似保证。最后，我们表明通过将拟阵约束加入问题的制定中，我们可以提高对策解释的最优集合的多样性，并激励整个人口谱上的个体自我改进。

Feb, 2020