对基于梯度的解释方法进行了系统的探索和分类，并介绍了技术细节的实质和算法的演化，同时提出了使用人工和定量评估来衡量算法性能的挑战，为研究人员提供了对最新进展和相关缺点的了解，并激发了未来解决这些问题的兴趣。

Mar, 2024

通过人类实验，我们发现属性解释法在某些情况下会导致决策者做出更糟糕的决策，这一结果挑战了应用这些方法的普遍好处的假定，在可解释的 AI 研究中人类评价的重要性下应该得到重视。

Dec, 2020

本篇论文提出一种新颖的扩展方法，将因果关系显式编码进生成输入实例的数据以解释增加信任度和帮助用户评估解释质量的 XAI 方法，并通过实验表明该方法对于拟合黑匣子和解释稳定性均达到了比初始方法更优越的表现。

Dec, 2022

我们提出了一种新的评估方法，用于基准测试最先进的可解释 AI 归因方法，该方法由合成的分类模型及其衍生的地面实况解释组成，该方法提供了关于 XAI 方法输出的更深入的洞察。

Aug, 2023

解释性人工智能的研究领域试图开发提供复杂机器学习方法如何进行预测的见解的方法。在这项工作中，我们探讨了高斯过程回归（GPR）背景下的特征归因问题，并在现有文献的基础上以原则性的方法定义了特征归因。我们展示了尽管 GPR 是一种高度灵活的非参数方法，但我们可以导出解释性的闭式表达式用于特征归因。使用 Integrated Gradients 作为归因方法时，我们表明 GPR 模型的归因也符合高斯过程分布，从而量化了由于模型的不确定性而产生的归因的不确定性。我们通过理论和实验证明了这种方法的多功能性和稳健性。我们还表明，在适用的情况下，GPR 归因的精确表达式比目前在实践中使用的近似方法更准确且计算成本更低。

Mar, 2024

文章提供了一个基于可解释性和解释性方法的误差检测通用方法，并使用集成梯度方法来减少 Attribution Error。

Jul, 2022

本文介绍了一种以黑盒为基础的梯度估计解释方法，称为 GEEX，通过分析梯度来揭示数据驱动方法（如深度学习模型）中做出决策的最重要特征，并将其与路径方法相结合，得到了用于图像数据的 iGEEX 方法，证明了该方法在黑盒场景中优于现有方法，并有着与完全访问的方法相媲美的性能。

Aug, 2023

借鉴形式推理解释，提出了正式特征归因（FFA）方法，通过近似 FFA 技术证明了其在特征重要性和顺序方面相对于现有特征归因算法的有效性。

Jul, 2023

该论文研究了深度学习中可解释人工智能的问题，特别关注了特征加性解释器在特征加性预测器中的适用性，并对特征交互进行评估，结果显示所有解释器在正确归因特征重要性方面最终失败。

Oct, 2023

解释性人工智能旨在向人类提供对不透明模型推理的深入理解，是一个跨学科的领域。本文通过对 10 名实践者的访谈，确认了在实践中训练数据质量通常是高性能模型的最重要因素，并且模型开发者主要依靠自己的经验来策划数据。最终用户期望解释能够增强他们与模型的交互，并且并不一定将训练数据作为解释的首要选择。在参与者中，发现训练数据归因解释并不为人熟知，因此也未被使用。我们敦促研究社区从人机协作的角度关注训练数据归因技术的实用性，并扩大对其评估以反映实践中的常见用例。

Oct, 2023