ICCVFeb, 2019

Saliency 图为什么嘈杂？嘈杂 Saliency 图的原因和解决方案

PDF
TL;DR本文通过提出新的假设 — 噪声可能出现在 Saliency Map 中，因为无关特征会经过 ReLU 激活函数，提出了一种称为 Rectified Gradient 的方法，通过层次阈值反向传播来缓解这个问题，并在 CIFAR-10 和 ImageNet 上的神经网络实验中展示了我们的方法的有效性和其他归属方法的优越性。
saliency mapdeep neural networkrelu activation functionsrectified gradientattribution methods
发现论文，激发创造
  • 基于显著性引导训练的深度学习解释性改进

    本文介绍了一种基于显著性引导培训的神经网络方法，可以有效降低噪声导致的特征归因不准确，并通过实验表明这种方法能够在保持预测性能的同时提高模型可解释性。

    Nov, 2021

  • 添加噪声的显著性图作为高阶偏导数序列的方法

    本文介绍了两种技术 SmoothGrad 和 VarGrad，这些技术通过添加噪声到输入来增强标准显著性图的经验质量，分析并阐述了这些噪声添加方法的严格理论解释，发现两种添加噪声的方法 SmoothGrad 并没有使得分数函数梯度平滑，VarGrad 与分数函数的梯度无关，从而为研究神经网络的本地解释方法和分数函数的高阶偏导数之间的关系提供了线索。

    Jun, 2018

  • 态度问题：专注于积极和主动的梯度以提升显著图

    本文探讨了从显著性图中挖掘梯度符号的作用，如何更好地理解多类别分类问题，并揭示了卷积神经网络对图像像素的关注和影响。

    Sep, 2023

  • 平滑深度显著性

    通过减少来自卷积下采样的噪声，我们探讨了解释深度学习模型如何检测扫描的组织标本中的肿瘤的方法，这些方法使得梯度基于隐藏层计算的显著性图更具解释性。我们在 ImageNet1K 上训练的不同模型以及在 Camelyon16 和实际数字病理学染色组织样本的肿瘤检测训练模型上测试了我们的方法。结果表明，梯度中的棋盘噪声得到了减少，从而产生更平滑且更易于解释的显著性图。

    Apr, 2024

  • 可解释梯度的学习范式

    本论文研究了卷积网络的可解释性，通过利用显著性图进行分析。我们提出了一种新的训练方法，通过引入正则化损失，使标准反向传播得到的输入图像相对于引导反向传播得到的梯度类似。我们发现，由此得到的梯度在质量上更加清晰，量化上改善了不同网络的可解释性特性，使用了多种可解释性方法。

    Apr, 2024

  • 高效明晰人工智能的显著性地图

    本研究提出了一种针对深度卷积神经网络的可解释性 AI 显著性图方法，其比流行的高分辨率梯度方法更为高效，并且在精度上也与其相当或更好。通过使用 Layer Ordered Visualization of Information，展示了该方法比其他显著性图方法提供更有趣的网络规模内比例贡献比较。此外，该方法在资源有限的平台上如机器人、手机、低成本工业设备、天文和卫星图像等方面是可行的。

    Nov, 2019

  • 重访反向传播显著性方法

    本文通过分析反向传播型显著性方法，提出了一个框架，将多种方法统一起来，进而提出了一个新的基于空间梯度特征的显著性方法 - NormGrad，并通过将不同层的显著图进行结合，测试不同层级网络提取信息的能力，并且引入了一个类别敏感指标和元学习方法以提高对输出类的敏感度。

    Apr, 2020

  • SmoothGrad: 通过添加噪声去除噪声

    本文介绍了一种基于渐变的灵敏度图可视化方法 SmoothGrad 以及其优化技术，旨在更好地理解深度网络的决策过程。

    Jun, 2017

  • 显著图的合理性检查

    本文对几种显著性方法进行实验和理论探索，提出用可行的方法来评估一种方法所能提供和不能提供的解释类型。实验证明，有些现有的显著性方法具有独立性，这些方法不受模型和数据生成过程的影响，因此，那些未通过所提出测试的方法，对于对数据或模型敏感的任务（ 如在数据中找到异常值，解释模型所学到的输入和输出之间的关系以及调试模型）是不适当的。与边缘检测类比，本文发现一些显著性方法无需训练数据或模型就能有效实现其功能。

    Oct, 2018

  • 通过极值理论理解参数重要性

    通过分析极值理论，我们在此工作中试图弥合参数显著性排名对于寻找引发误识别的滤波器存在的知识差距。我们的实验结果表明，我们的重述方法也可以检测恶意滤波器，并且相比于现有的参数显著性方法，基于极点方法的参数显著性显示了更少的偏差。

    Oct, 2023