本文研究了深度网络输入特征对预测的影响，提出了敏感性和实现不变性两个公理，并指出大部分已知的边缘归因方法并不满足这两个公理。最后，作者设计了一种不需要修改原始网络的全新边缘归因方法——集成梯度，并将其应用于图像、文本和化学模型中。结果表明，该方法不仅具有调试和提取规则的功能，还能够有效地帮助用户更好地使用模型。

Mar, 2017

本研究旨在对四种基于梯度的属性方法进行分析，并在图像和文本分类领域的多个数据集上测试这些方法，提出了一种新的评估指标Sensitivity-n，并在改进一些方法后建立了一个统一框架，使这些方法能够进行直接比较和更容易实现。

Nov, 2017

该论文提出了一种新的方法Relative Attributing Propagation(RAP)，通过将神经元标注为正面和负面属性来解释深度神经网络的结果，从而使得其解释更为清晰可视化。通过基于相关度分配的优先级，该方法可以对神经元进行双极重要性评分，从而使得其解释更为贴近实际。

Apr, 2019

该研究分析了多种BP方法，提供了一种理论和实证的框架来评估新的和现有的BP方法的可信度，表明这些方法的解释与后续层的参数无关，测量了这些方法如何忽略后续层信息，发现DeepLIFT是唯一不受此限制的方法。

Dec, 2019

本文提出了一种度量深度神经网络在训练过程中因果结构的度量方法，即有效信息（EI），用于评估每个层的因果影响节点和边缘在其下游目标上的度量。通过分解EI以检查每个层的敏感性、退化性和整合信息量，可以在“因果平面”上可视化每个层次的连接方式如何随时间变得更加敏感或退化，以及集成如何在训练期间改变。结果有助于理解深度神经网络的泛化能力，并为使DNN具有更高的泛化性和可解释性提供基础工具。

Oct, 2020

本文介绍了解释深度神经网络的渐变解释性方法，讨论了这些方法如何评估其鲁棒性以及鲁棒性在产生有意义的解释方面的作用，并探讨了渐变方法的局限性和选择解释方法之前应该考虑的最佳实践和属性。

Jul, 2021

本文研究表明利用归因映射来训练神经网络能够提高模型的正则化从而提高性能，并介绍了一种名为Challenger的模块，该模块利用输入模式的解释能力来操纵重要的输入模式，从而提高模型性能。

May, 2022

探索透视医学影像分类应用的影响映射方法和度量评估，提出EvalAttAI度量已有度量的局限并进行改进，结果显示：使用Vanilla Gradient方法的贝叶斯深度神经网络通常更具可解释性。

Mar, 2023

本文提出了一种新颖的事后框架UCAG，通过对模型置信度进行空间审查，增强了神经网络决策的解释能力。该方法通过细致地分析输入特征，提供了丰富而清晰的解释，从而提高了解释的表达能力，并超越了现有方法的性能。

Dec, 2023

本研究解决了现有深度神经网络决策解释方法中，各像素独立评估归因分数的问题。提出的IProp方法通过动态传播信息来共同评估相似像素的归因，显著提高了不同解释方法的可解释性指标，为模型解释提供了新的思路和方法。

Sep, 2024