MMOct, 2022

祛除：基于神经推荐系统的注意力因果解释

PDF
TL;DR本文介绍了 CLEAR 方法，它可以从基于注意力的推荐器的注意力中学习会话特定的因果图，在潜在混淆因素的可能存在下进行。这些因果关系图描述了用户在注意力所捕捉到的上下文中的行为，并为推荐提供了反事实的解释。通过实证评估，我们发现与天真地使用注意力权重来解释输入输出关系相比，CLEAR 找到的反事实解释更简短，并且替代推荐在原始的 Top-K 推荐中得到了更高的排名。
发现论文，激发创造
  • 解释未解释的部分：一种增强类别注意力响应的方法（CLEAR）用于理解深度神经网络

    本研究提出了一种名为 CLEAR 的方法，该方法集成了注意力机制并能可视化神经网络在决策过程中的决策区域、兴趣等级和相关的最主要类别，实现了对神经网络决策过程更好的深入理解，并在不同数据集上的定量和定性实验中得到了有效性的证明。

    Apr, 2017

  • 神经推荐系统的反事实解释

    本文提出了 ACCENT，一个基于影响函数的通用框架，用于找到深度神经网络推荐系统的因果解释。我们利用 ACCENT 生成了针对两种流行的神经网络模型（NCF 和 RCF）的因果解释，并在 MovieLens100K 数据集的样本上表明其可行性。

    May, 2021

  • 因果关注力用于可解释和可泛化的图分类

    本研究提出 Causal Attention Learning (CAL) 策略，利用因果推断来处理图分类过程中存在的 confounding effect of shortcuts，该方法借助注意力模块估计因果特征和快捷特征，并对因果理论进行参数化背门调整。实验结果表明，CAL 策略在合成和真实数据集上均取得了良好的效果。

    Dec, 2021

  • 任何分类器的可衡量反事实本地解释

    提出 CLEAR 方法来解释分类器预测结果，该方法可以生成最小改变以翻转预测结果的 w 反事实解释，并使用这些反事实解释来建立本地回归模型，从而提高模型的保真度。相比之下，流行的 LIME 方法没有测量自身的保真度或生成反事实解释。

    Aug, 2019

  • 潜空间中干扰变量的因果结构表示学习用于推荐

    用户偏好、推荐系统、混淆因素、因果图和潜在空间是本研究的关键词，研究探讨了混淆因素对用户偏好的影响和如何在潜在空间中建模，通过因果图的方式分离混淆因素和用户偏好。最后，提出了基于变分自动编码器的模型，命名为潜在空间中混淆因素的因果结构表示学习 (CSC)，通过实验证明了该模型的优越性以及对混淆因素的可控性。

    Nov, 2023

  • 基于图的推荐解释器

    本研究提出了一种图注意力神经网络模型，结合了用户、物品、属性和句子，用于基于抽取的解释的推荐系统，解决了现有解决方案在轻松感知、可靠性和个性化方面的不足之处。在两个基准评论数据集上的广泛实证评估表明了所提出解决方案的生成质量。

    Feb, 2022

  • 强化路径推理用于反事实可解释推荐

    本文提出了一种基于新型可解释性推荐 (CERec) 的方法，利用基于项目属性的反事实解释来提高推荐效果，采用强化学习环境中均匀搜索候选反事实，通过适应路径采样器，使用给定的知识图的丰富上下文信息来缩小巨大的搜索空间。此外，在推荐模型中部署解释策略以提高推荐。

    Jul, 2022

  • 反事实可解释推荐

    本文提出 Counterfactual Explainable Recommendation（CountER）模型，并利用因果推理的洞见进行解释，通过联合优化来生成新的最小更改使得机器推荐相反的物品，以便形成推荐的原因解释，具有更高的解释质量。

    Aug, 2021

  • 基于图神经网络的推荐系统生成真实及反事实解释

    提出一种基于黑盒图神经网络推荐系统的新型解释方法 GREASE，通过训练替身模型和生成真实的、反向的解释来为不熟练的终端用户提供简明有效的解释。

    Aug, 2022

  • 图神经网络的强化因果解释器

    该研究提出了一种基于强化学习代理的解释模型 ——RC-Explainer，利用序列决策过程构建了一个连续的可解释子图，可以生成准确且简洁的解释，并具有更好的泛化性能和分类性能。

    Apr, 2022