本文研究了深度网络输入特征对预测的影响，提出了敏感性和实现不变性两个公理，并指出大部分已知的边缘归因方法并不满足这两个公理。最后，作者设计了一种不需要修改原始网络的全新边缘归因方法——集成梯度，并将其应用于图像、文本和化学模型中。结果表明，该方法不仅具有调试和提取规则的功能，还能够有效地帮助用户更好地使用模型。

Mar, 2017

该论文提出了一种新的方法Relative Attributing Propagation(RAP)，通过将神经元标注为正面和负面属性来解释深度神经网络的结果，从而使得其解释更为清晰可视化。通过基于相关度分配的优先级，该方法可以对神经元进行双极重要性评分，从而使得其解释更为贴近实际。

Apr, 2019

该研究拓展了深度学习可解释性领域的基础，引入了必要性、充分性和比例概念等新的度量方法研究输入归因，以便比较不同方法和解释结果。研究评估了用于图像分类的不同CNN解释方法在必要性和充分性方面的表现。

Feb, 2020

该研究提出一种名称为FAR的新型范式，用于通过在输入的局部领域内最小化属性映射的最大差异来训练模型的鲁棒属性。通过新模型AAT和AdvAAT的实验表明，所提出的方法在对抗干扰下都更有稳健性。

Oct, 2020

该研究论文旨在提出一种强健的归因训练策略来提高深度神经网络的归因鲁棒性，针对近年来的研究表明，尽管这些模型被给予两张非常相似的图像，但其产生的归因图可能会有很大的不同，从而引发了对其可信度的质疑。这个方法通过引入保护模型归因图免受攻击的两个新的正则器来提高归因鲁棒性，并在多个数据集上超越了最先进的归因鲁棒性方法。

Dec, 2020

本文介绍了解释深度神经网络的渐变解释性方法，讨论了这些方法如何评估其鲁棒性以及鲁棒性在产生有意义的解释方面的作用，并探讨了渐变方法的局限性和选择解释方法之前应该考虑的最佳实践和属性。

Jul, 2021

本文提出了积分梯度正则化(IGR)方法，可以通过最大化自然和扰动归因之间的余弦相似度来获得健壮的模型归因，从而提高模型的对抗性稳健性。在不同模型和数据集上的实验验证了我们的分析结果。

May, 2022

本文提出三种新的评估方案来衡量影响深度神经网络决策的图像区域，以及平衡各种评估方法之间的比较，并提出一个后处理平滑步骤来改善一些归因方法的性能。

May, 2022

本文首次将诸多启发式设计的14种归因方法的核心机制，统一为一个数学系统，证明这14种方法的归因得分都可以重构为两种效应的加权求和，即每个输入变量的独立效应和输入变量之间的相互作用效应，并提出3个公平分配效应的原则来评价这14种归因方法的忠诚度。

Mar, 2023

本研究旨在检验特征归因法在不同深度学习架构模型间的泛化能力，以及探索归一化的特征解释方法在提高机器学习应用的可解释性和信任度方面的潜力。

Jul, 2023