介绍了 OpenXAI—— 一种全面的且可扩展的开源框架，用于评估和基准测试事后解释方法。 OpenXAI 包括一个灵活的合成数据生成器和各种真实世界数据集，预先训练的模型和最先进的特征归因方法的集合，以及评估解释方法准确性、稳定性和公平性的 22 种定量度量的开源实现，并且该框架还包含公开的 XAI 排行榜，用于基准测试解释方法。

Jun, 2022

通过在解释性人工智能（XAI）中引入用户中心评估框架，我们希望综合评估方法，总结解释属性，建立相互关系，并分类度量这些属性，以期为 XAI 评估的人本标准化做出贡献。

Jul, 2023

本文介绍了可解释 AI 的技术领域以及人们对人机交互和用户体验设计日益重视，在 XAI 的设计、评估、概念和方法论工具方面提供人本方法的作用。本文旨在提供人本的 XAI 设计，并帮助传达和扩展已有的 XAI 工具箱。

Oct, 2021

本文通过系统文献综述，评估了 85 篇人基于 XAI 评估的核心论文，并对解释方法的可信、可懂、公平、可用性和人工智能团队表现等进行了归类。作者提出了关于设计和进行 XAI 用户研究的最佳实践指南，并强调了将心理科学和以人为中心的 XAI 联系起来的几个开放研究方向。

Oct, 2022

提出了一种名为 Compare-xAI 的基准测试框架，该框架统一了 xAI 算法的所有排他性功能测试方法，帮助研究人员、从业人员和普通人解释模型结果，同时提供了可互动的用户界面。

Jun, 2022

该论文呼吁从事人类中心的可解释人工智能研究，探究人类对于深度学习系统的理解和信任的关键作用，并提出设计可解释的神经网络体系结构的方案，以实现实时、准确、可操作、易于解释和一致的需求。

Jul, 2023

本文比较了 14 个不同的评估指标在 9 种最先进的 XAI 方法和 3 种用作参考的虚拟方法（如随机显著性图）上的应用结果，结果表明其中一些指标会产生高度相关的结果，还展示了基准超参数变化对评估指标值的显著影响，最后使用虚拟方法评估指标的可靠性及其排名方面的限制。

May, 2023

深度学习算法的崛起在计算机视觉任务中取得了重大进展，但它们的 “黑匣子” 性质引发了对可解释性的关注。可解释人工智能（XAI）作为一个重要的研究领域出现，旨在打开这个 “黑匣子”，并揭示人工智能模型的决策过程。视觉解释作为可解释人工智能的一个子集，通过突出显示输入图像中的重要区域，为处理视觉数据的人工智能模型的决策过程提供直观的见解。我们提出了一个 XAI 基准，其中包括来自不同主题的数据集集合，为图像提供了类别标签和相应的解释注释。我们引入了一个全面的视觉解释流程，在这个流程中整合了数据加载、预处理、实验设置和模型评估过程。此结构使研究人员能够公平比较各种视觉解释技术。此外，我们对视觉解释的超过 10 种评估方法进行综合评述，以帮助研究人员有效利用我们的数据集合。为了进一步评估现有的视觉解释方法的性能，我们使用各种以模型为中心和以真实标注为中心的评估指标在选定的数据集上进行实验。我们希望这个基准可以推动视觉解释模型的进步。这个 XAI 数据集合和用于评估的易于使用的代码公开可访问。

Oct, 2023

提出了一个以用户为中心的框架，旨在为非专业用户提供交互式可解释人工智能解决方案。

Sep, 2021

该研究论文介绍了一个旨在改善复杂机器学习模型可解释性的解释性人工智能（XAI）领域的发展趋势，并提出了一个初始的基准测试平台 EXACT，该平台结合了各种基准数据集和新颖的性能评估指标，为评估 XAI 方法提供了一个标准化的基础。

May, 2024