为了解决推荐系统中透明性和用户信任的问题，研究人员提出了一种名为 BRIE 的新模型，通过采用基于贝叶斯对比排序的更适当的学习目标，实现比现有模型更卓越的性能，同时具有较高的效率。

Jul, 2023

本文研究了如何在后期操作中用可解释的特征空间解释排名模型，并使用来自排名器的标签来训练树状模型，以提供解释，研究表明在某些情况下，可以学习到忠实且可解释的排名器。

Jun, 2018

深度学习算法的崛起在计算机视觉任务中取得了重大进展，但它们的 “黑匣子” 性质引发了对可解释性的关注。可解释人工智能（XAI）作为一个重要的研究领域出现，旨在打开这个 “黑匣子”，并揭示人工智能模型的决策过程。视觉解释作为可解释人工智能的一个子集，通过突出显示输入图像中的重要区域，为处理视觉数据的人工智能模型的决策过程提供直观的见解。我们提出了一个 XAI 基准，其中包括来自不同主题的数据集集合，为图像提供了类别标签和相应的解释注释。我们引入了一个全面的视觉解释流程，在这个流程中整合了数据加载、预处理、实验设置和模型评估过程。此结构使研究人员能够公平比较各种视觉解释技术。此外，我们对视觉解释的超过 10 种评估方法进行综合评述，以帮助研究人员有效利用我们的数据集合。为了进一步评估现有的视觉解释方法的性能，我们使用各种以模型为中心和以真实标注为中心的评估指标在选定的数据集上进行实验。我们希望这个基准可以推动视觉解释模型的进步。这个 XAI 数据集合和用于评估的易于使用的代码公开可访问。

Oct, 2023

本文介绍了应用可解释人工智能和评估性对比解释方法以解决排名问题，并通过对公开数据进行的实验展示了其应用和特点。

Dec, 2023

本论文提出了一种透明可解释的 AI 系统，使用基于简单逻辑表达式的规则集进行演化，可以发现具有意义的规则集，揭示数据中的偏差，提供对相关领域的深入了解，并为建立如实际应用的可信 AI 系统提供有希望的基础。

Apr, 2022

本文探讨不同非线性分类场景下，解释性人工智能模型的表现，并通过一系列实验测试发现，当前流行的 XAI 方法往往无法显著提高准确性基线和边缘检测方法，甚至在不同模型结构下产生非常不同的解释，存在误解的风险。

Jun, 2023

人工智能算法在多个高风险领域中已变得无处不在，但其内部逻辑可能对于人类而言难以理解。可解释的人工智能旨在设计工具和技术，以说明所谓的黑匣子算法的预测。人机交互界长期强调对可解释人工智能采用更加以用户为中心的方法的需求。本文提出了一种基于可视化的方法，以说明规则与特征重要性的配对。通过与算法的原始输出和文本表示进行比较，使用了包括 15 个参与者的用户研究，测试了我们的可视化方法在用户中的有效性。

Apr, 2024

本文针对 Bayesian Personalized Ranking 模型的黑箱模型、暴露偏差等两个局限进行改进，提出一种新的可解释且公平的推荐模型 Explainable Bayesian Personalized Ranking，并在三个真实世界数据集上进行了实证研究。

Jul, 2021

本文提出一种可视化推理基元的方法，将其组合成一种能够通过显式可解释的方式执行复杂推理任务的模型，并在 CLEVR 数据集上取得了 99.1% 的准确度，同时有效地学习了泛化表示。

Mar, 2018

本论文介绍了一种搜索系统 EXS，利用解释模型 LIME，针对神经排序器等复杂模型进行解释，以提供搜索查询意图、文档排名和相关性的解释和改进建议。

Sep, 2018