ICMLJun, 2021

基于梯度的可解释性方法与二值化神经网络

PDF
TL;DR本文比较了应用在二值化神经网络与全精度神经网络的几种常用显著图解释技术（梯度、平滑梯度和 GradCAM）表现的差异，结果发现 SmoothGrad 方法在 BNNs 时产生明显的噪音地图，而 GradCAM 则在网络类型上产生显著的不同，有些 BNNs 的解释看起来毫无意义。我们探讨了这些差异的可能原因，并将其作为需在更广泛的网络类型上测试解释性技术的示例。
发现论文，激发创造
  • 可解释梯度的学习范式

    本论文研究了卷积网络的可解释性，通过利用显著性图进行分析。我们提出了一种新的训练方法，通过引入正则化损失，使标准反向传播得到的输入图像相对于引导反向传播得到的梯度类似。我们发现，由此得到的梯度在质量上更加清晰，量化上改善了不同网络的可解释性特性，使用了多种可解释性方法。

    Apr, 2024

  • 神经网络解释方法真的好吗？量化基准测试

    本文提出了一种基于合成数据集的神经网络解释方法的量化基准评估，结果表明我们的合成数据集足以挑战大多数基准方法，而 TreeShap、mRMR 和 LassoNet 是最佳表现的 FS（特征选择）方法，并且当评估少数非线性交绉的预测特征时，神经网络基础的 FS 和解释方法仍然不可靠。

    Apr, 2023

  • 神经网络可视化的全梯度表示

    本文提出了一种新的解释神经网络响应的工具，称为完整梯度，它将神经网络响应分解为输入灵敏度和每个神经元的灵敏度成分。作者还提出了一种近似的唯象图表示方法，称为 FullGrad，用于卷积网络。作者通过两个定量测试评估了 FullGrad 的有用性，证明了它比文献中其他方法更全面地解释模型行为。视觉检查还表明，我们的显着性图像比其他方法更清晰地限制在对象区域内。

    May, 2019

  • 用 Riemann-Stieltjes 积分梯度定位从深度网络中得到视觉解释

    本文介绍了一种新的用于计算神经网络预测的可视化解释技术，该技术可以在卷积神经网络的任何层上应用，并且不受消失梯度问题的影响，采用 Riemann-Stieltjes 和逼近法进行层级数值梯度积分。与 Grad-CAM 相比，我们算法产生的热图更清晰地聚焦于感兴趣的区域，并且计算更稳定。

    May, 2022

  • 基于对比学习的网络二值化

    本文介绍了一种使用对比学习和最大化互信息的方法来使用二进制神经网络实现更好的分类和分割结果，以减少因为二值化操作而导致的信息丢失。

    Jul, 2022

  • 基于一体化梯度评分的卷积神经网络敏感性感知可视解释

    通过计算 Grad-CAM 的基于梯度项的路径积分，我们提出了一种解决方法，可以更好地说明该模型提取的特征对其预测的重要性，对于物体定位和模型解释具有重要意义。

    Feb, 2021

  • 态度问题：专注于积极和主动的梯度以提升显著图

    本文探讨了从显著性图中挖掘梯度符号的作用，如何更好地理解多类别分类问题，并揭示了卷积神经网络对图像像素的关注和影响。

    Sep, 2023

  • 重访反向传播显著性方法

    本文通过分析反向传播型显著性方法，提出了一个框架，将多种方法统一起来，进而提出了一个新的基于空间梯度特征的显著性方法 - NormGrad，并通过将不同层的显著图进行结合，测试不同层级网络提取信息的能力，并且引入了一个类别敏感指标和元学习方法以提高对输出类的敏感度。

    Apr, 2020

  • 二元图神经网络

    本论文探讨了将二值化技术应用于图神经网络的方法，并成功设计了能够在 Hamming 空间内快速构建动态图的模型，实现了在准确性轻微损失的代价下在嵌入式设备上取得了显著的存储空间和时间扩展的效果。

    Dec, 2020

  • Smooth Grad-CAM++: 深度卷积神经网络模型增强推理可视化技术

    本文介绍了一种叫做 Smooth Grad-CAM++ 的新方法，用于可视化神经网络内部的决策过程并解释其输出，该方法在多种场合下表现出更优秀的效果，特别是在物体定位和图像分类方面。

    Aug, 2019