本文研究了深度网络输入特征对预测的影响，提出了敏感性和实现不变性两个公理，并指出大部分已知的边缘归因方法并不满足这两个公理。最后，作者设计了一种不需要修改原始网络的全新边缘归因方法——集成梯度，并将其应用于图像、文本和化学模型中。结果表明，该方法不仅具有调试和提取规则的功能，还能够有效地帮助用户更好地使用模型。

Mar, 2017

本研究旨在对四种基于梯度的属性方法进行分析，并在图像和文本分类领域的多个数据集上测试这些方法，提出了一种新的评估指标Sensitivity-n，并在改进一些方法后建立了一个统一框架，使这些方法能够进行直接比较和更容易实现。

Nov, 2017

本篇论文提出一种名为 LAM 的局部指向图方法，通过对超分辨率（SR）神经网络模型及图像的像素引入模糊因子，探索其对模型输出结果的影响，结果表明：1）输入像素范围越广，SR性能越好；2）采用更广范围的注意力机制及非局部卷积核能提取越多的特征；3）大多数深度网络具有足够大的感受野；4）相对于深度结构而言，具有规则线条或网格的纹理更易被模型识别和利用。

Nov, 2020

本文研究多尺度卷积神经网络的设计，主要探讨协方差和不变性的问题，并从设计角度提出了新的凹陷视野尺度通道网络结构，其能够有效地实现不同尺寸的图像分类任务。

Jun, 2021

本文提出三种新的评估方案来衡量影响深度神经网络决策的图像区域，以及平衡各种评估方法之间的比较，并提出一个后处理平滑步骤来改善一些归因方法的性能。

May, 2022

介绍了一个新的方法——Wavelet sCale Attribution Method(WCAM),在像素域到空间-比例域进行了属于度量，并解释了这些模型在图像失真上失败的原因，提高了用户对模型的信任。

May, 2023

本研究旨在检验特征归因法在不同深度学习架构模型间的泛化能力，以及探索归一化的特征解释方法在提高机器学习应用的可解释性和信任度方面的潜力。

Jul, 2023

预测基于的归因方法相对于梯度基于的方法表现更好的原因是因为前者的高频信息更少，通过优化低通滤波器可以改善梯度基于的归因方法的表现。

Jul, 2023

本文介绍了一种名为集成梯度相关性（IGC）的新方法，它将数据集属性与模型预测得分相关联，并通过与相关组件的直接求和实现区域特定分析。在脑部fMRI神经信号的图像特征表示以及神经人口感受野（NSD数据集）的估计以及手写数字识别（MNIST数据集）的研究中，我们演示了我们的方法。得出的IGC属性显示出选择性模式，揭示了与各自目标一致的潜在模型策略。

Apr, 2024

通过提出一种新的评估协议，我们评估了23种归因方法以及8种不同的视觉模型设计选择如何影响归因质量，发现内在可解释性模型优于标准模型，并且原始的归因值展现出更高的质量。此外，在改变网络设计时，归因质量也出现了一致性变化，表明一些标准设计选择促进了归因质量。

Jul, 2024