Aug, 2019

Smooth Grad-CAM++: 深度卷积神经网络模型增强推理可视化技术

PDF
TL;DR本文介绍了一种叫做 Smooth Grad-CAM++ 的新方法，用于可视化神经网络内部的决策过程并解释其输出，该方法在多种场合下表现出更优秀的效果，特别是在物体定位和图像分类方面。
deep convolutional neural networksexplainable deep learning modelsimage classificationgrad-camobject localization
发现论文，激发创造
  • Grad-CAM++: 深度卷积网络的改进视觉解释

    该论文介绍了一个名为 Grad-CAM++ 的泛化方法，它以更好的对象定位和解释单个图像中多个对象实例的方式提供了更好的 CNN 模型预测视觉解释，并在标准数据集上进行了广泛的实验和评估，包括分类，图像字幕生成和 3D 动作识别等多个任务。

    Oct, 2017

  • Grad-CAM: 基于梯度的定位，通过深度网络提供视觉解释

    该论文提出了 Gradient-weighted Class Activation Mapping (Grad-CAM) 技术，结合细粒度的可视化方法，通过对 CNN 模型中任意目标概念的梯度进行处理，使得决策更加透明和可解释，同时能够定位各个重要部件，提高模型泛化性。作者通过将 Grad-CAM 应用于图像分类、字幕和视觉问答模型，并通过人机交互实验证明，该技术能够帮助用户建立模型的信任度并成功辨别模型的强弱。

    Oct, 2016

  • 基于一体化梯度评分的卷积神经网络敏感性感知可视解释

    通过计算 Grad-CAM 的基于梯度项的路径积分，我们提出了一种解决方法，可以更好地说明该模型提取的特征对其预测的重要性，对于物体定位和模型解释具有重要意义。

    Feb, 2021

  • Grad-CAM：你为什么这样说？

    提出了一种基于 Grad-CAM 的透明度技术，通过可视化重要的输入区域来提高人类对卷积神经网络（CNN）模型的理解，帮助理解包括图像字幕和视觉问答（VQA）模型在内的基于 CNN 的模型，并通过测量它们的分类能力、人类可信度和与遮挡地图的相关性来评估它们的视觉解释。

    Nov, 2016

  • Grad-CAM++ 等价于带有正梯度的 Grad-CAM

    研究了 Grad-CAM 算法在图像对象识别中的定位作用以及其限制，提出了 Grad-CAM++ 算法，并表明它比多个对象实例的图像中用于网络预测的简单变量实现的 Grad-CAM 算法更有效。

    May, 2022

  • 用 Riemann-Stieltjes 积分梯度定位从深度网络中得到视觉解释

    本文介绍了一种新的用于计算神经网络预测的可视化解释技术，该技术可以在卷积神经网络的任何层上应用，并且不受消失梯度问题的影响，采用 Riemann-Stieltjes 和逼近法进行层级数值梯度积分。与 Grad-CAM 相比，我们算法产生的热图更清晰地聚焦于感兴趣的区域，并且计算更稳定。

    May, 2022

  • 基于公理的 Grad-CAM：CNN 的准确可视化和解释

    本文提出了两个公理– 保守性和灵敏度，为 CAM 方法的可视化范式引入了理论支持，并提出了一个专门基于公理的 Grad-CAM（XGrad-CAM），以尽可能地满足这些公理。实验证明，相对于 Grad-CAM++ 和 Ablation-CAM，XGrad-CAM 在保守性和灵敏度方面均有所提高，能够比 Grad-CAM 实现更好的可视化性能，同时具有类别区分能力和易实现性。

    Aug, 2020

  • SS-CAM: 平滑的 Score-CAM 用于更清晰的视觉特征定位

    本研究通过对 Score-CAM 的改进，提出了一种增强的可视化解释方法 SS-CAM，通过平滑操作在图像中生成目标特征的集中定位，从而优于 Score-CAM 在忠实度和定位任务方面，对深度卷积神经网络的内在决策进行了分析和理解。

    Jun, 2020

  • FM-G-CAM: 计算机视觉中可解释 AI 的整体方法

    本文介绍了一种全面的解释性方法 FM-G-CAM，它考虑了多个顶级预测类别，并提供了对预测卷积神经网络思维过程的完整解释，同时与 Grad-CAM 进行了比较，并通过实际应用案例突出了其优点。最后，我们介绍了一个使用 FM-G-CAM 生成卷积神经网络模型预测的显著性图的开源 Python 库。

    Dec, 2023

  • Abs-CAM：卷积神经网络解释的梯度优化可解释性方法

    本文提出了一种基于绝对值的类激活映射（Abs-CAM）方法，优化了反向传播得到的梯度，使所有梯度都变为正梯度，从而增强了输出神经元激活的视觉特征，并提高了显著图的定位能力。该方法通过两个阶段的生成显著图来改善其定位能力，并在识别和定位任务中表现优异。

    Jul, 2022