ICMLJun, 2018

添加噪声的显著性图作为高阶偏导数序列的方法

PDF
TL;DR本文介绍了两种技术 SmoothGrad 和 VarGrad，这些技术通过添加噪声到输入来增强标准显著性图的经验质量，分析并阐述了这些噪声添加方法的严格理论解释，发现两种添加噪声的方法 SmoothGrad 并没有使得分数函数梯度平滑，VarGrad 与分数函数的梯度无关，从而为研究神经网络的本地解释方法和分数函数的高阶偏导数之间的关系提供了线索。
smoothgradvargradsaliency mapsneural networkspartial derivatives
发现论文，激发创造
  • SmoothGrad: 通过添加噪声去除噪声

    本文介绍了一种基于渐变的灵敏度图可视化方法 SmoothGrad 以及其优化技术，旨在更好地理解深度网络的决策过程。

    Jun, 2017

  • Saliency 图为什么嘈杂？嘈杂 Saliency 图的原因和解决方案

    本文通过提出新的假设 — 噪声可能出现在 Saliency Map 中，因为无关特征会经过 ReLU 激活函数，提出了一种称为 Rectified Gradient 的方法，通过层次阈值反向传播来缓解这个问题，并在 CIFAR-10 和 ImageNet 上的神经网络实验中展示了我们的方法的有效性和其他归属方法的优越性。

    Feb, 2019

  • 平滑深度显著性

    通过减少来自卷积下采样的噪声，我们探讨了解释深度学习模型如何检测扫描的组织标本中的肿瘤的方法，这些方法使得梯度基于隐藏层计算的显著性图更具解释性。我们在 ImageNet1K 上训练的不同模型以及在 Camelyon16 和实际数字病理学染色组织样本的肿瘤检测训练模型上测试了我们的方法。结果表明，梯度中的棋盘噪声得到了减少，从而产生更平滑且更易于解释的显著性图。

    Apr, 2024

  • 重访反向传播显著性方法

    本文通过分析反向传播型显著性方法，提出了一个框架，将多种方法统一起来，进而提出了一个新的基于空间梯度特征的显著性方法 - NormGrad，并通过将不同层的显著图进行结合，测试不同层级网络提取信息的能力，并且引入了一个类别敏感指标和元学习方法以提高对输出类的敏感度。

    Apr, 2020

  • 通过去噪估计数据分布的高阶梯度

    提出了一种直接从样本估计高阶导数的方法，并将其应用于数据密度的分析与合成，提高了模型的精度和效率。

    Nov, 2021

  • NormGrad：寻找训练中有用的像素

    该论文提出了一种基于卷积层的梯度求和公式的权重归因方法，并通过元学习方法确定模型训练的相关位置，同时也展示了相似元学习方法可用于提取对模型有负面影响的对抗位置。

    Oct, 2019

  • ODSmoothGrad: 为物体检测器生成显著图

    本研究提出一种名为 ODSmoothGrad 的工具，可生成用于分类和边界框参数的显著图，并应用 SmoothGrad 算法以提高其可视化效果，应用于一阶段和二阶段目标检测器。

    Apr, 2023

  • 基于范数正则化的结构化梯度解释方法

    通过对简单梯度方案进行稀疏性及连接性调整，采用对抗训练作为一种内部处理方案，设计并展示了基于正则化的对抗训练方法对标准神经网络架构在基准图像数据集上的梯度图产生的影响。

    Apr, 2024

  • 基于显著性引导训练的深度学习解释性改进

    本文介绍了一种基于显著性引导培训的神经网络方法，可以有效降低噪声导致的特征归因不准确，并通过实验表明这种方法能够在保持预测性能的同时提高模型可解释性。

    Nov, 2021

  • 神经网络可视化的全梯度表示

    本文提出了一种新的解释神经网络响应的工具，称为完整梯度，它将神经网络响应分解为输入灵敏度和每个神经元的灵敏度成分。作者还提出了一种近似的唯象图表示方法，称为 FullGrad，用于卷积网络。作者通过两个定量测试评估了 FullGrad 的有用性，证明了它比文献中其他方法更全面地解释模型行为。视觉检查还表明，我们的显着性图像比其他方法更清晰地限制在对象区域内。

    May, 2019