AAAIFeb, 2020

通过梯度加权类别激活映射实现可解释的语义分割

PDF
TL;DR本文提出了一种名为 SEG-GRAD-CAM 的基于梯度的方法，扩展了广泛使用的 Grad-CAM 方法，用于解释语义分割中每个像素的相关性。
convolutional neural networksinterpretation methodsimage segmentationseg-grad-camgrad-cam
发现论文，激发创造
  • Grad-CAM：你为什么这样说？

    提出了一种基于 Grad-CAM 的透明度技术，通过可视化重要的输入区域来提高人类对卷积神经网络（CNN）模型的理解，帮助理解包括图像字幕和视觉问答（VQA）模型在内的基于 CNN 的模型，并通过测量它们的分类能力、人类可信度和与遮挡地图的相关性来评估它们的视觉解释。

    Nov, 2016

  • Cluster-CAM: 基于聚类加权的 CNN 图像分类决策可视化

    本文提出了一种新的基于聚类的 CNN 解释算法 Cluster-CAM，它可以分离特征图并采用认知基础映射和认知剪切策略来合并认知图生成显著性热力图，结果显示 Cluster-CAM 比现有的 CAM 能够更准确地匹配人类认知，且在效率和效果上都具有显著优势。

    Feb, 2023

  • Grad-CAM: 基于梯度的定位，通过深度网络提供视觉解释

    该论文提出了 Gradient-weighted Class Activation Mapping (Grad-CAM) 技术，结合细粒度的可视化方法，通过对 CNN 模型中任意目标概念的梯度进行处理，使得决策更加透明和可解释，同时能够定位各个重要部件，提高模型泛化性。作者通过将 Grad-CAM 应用于图像分类、字幕和视觉问答模型，并通过人机交互实验证明，该技术能够帮助用户建立模型的信任度并成功辨别模型的强弱。

    Oct, 2016

  • 基于一体化梯度评分的卷积神经网络敏感性感知可视解释

    通过计算 Grad-CAM 的基于梯度项的路径积分，我们提出了一种解决方法，可以更好地说明该模型提取的特征对其预测的重要性，对于物体定位和模型解释具有重要意义。

    Feb, 2021

  • 用 Riemann-Stieltjes 积分梯度定位从深度网络中得到视觉解释

    本文介绍了一种新的用于计算神经网络预测的可视化解释技术，该技术可以在卷积神经网络的任何层上应用，并且不受消失梯度问题的影响，采用 Riemann-Stieltjes 和逼近法进行层级数值梯度积分。与 Grad-CAM 相比，我们算法产生的热图更清晰地聚焦于感兴趣的区域，并且计算更稳定。

    May, 2022

  • VS-CAM: 用于解释视觉图神经网络的顶点语义类激活映射

    本文提出了一种新的可视化方法：基于节点语义信息的类激活映射（Vertex Semantic Class Activation Mapping，VS-CAM），用于图卷积神经网络（Graph Convolutional Neural Network，GCN）的可视化，结果表明该方法比基于卷积神经网络的类激活映射（Class Activation Mapping,CAM）更能精确地匹配目标区域。

    Sep, 2022

  • 使用深度神经网络分类器对医学图像分割进行偷袭

    本研究使用卷积神经网络分类器及热图来解决分割问题，并提出用平均 Dice 系数评估结果的方法。研究显示热图可以定位和分割部分肿瘤区域，但仅使用 CNN 分类器的热图可能并非最佳选项。

    Jan, 2022

  • 可解释梯度的学习范式

    本论文研究了卷积网络的可解释性，通过利用显著性图进行分析。我们提出了一种新的训练方法，通过引入正则化损失，使标准反向传播得到的输入图像相对于引导反向传播得到的梯度类似。我们发现，由此得到的梯度在质量上更加清晰，量化上改善了不同网络的可解释性特性，使用了多种可解释性方法。

    Apr, 2024

  • 基于图卷积网络的弱监督图像语义分割

    本研究提出了一种基于图卷积网络的特征传播框架，将完整的伪标签的生成作为半监督学习任务来解决弱监督图像语义分割问题，并在 PASCAL VOC 2012 数据集上通过实验得到了比其他最先进的基线方法更好的结果。

    Mar, 2021

  • FM-G-CAM: 计算机视觉中可解释 AI 的整体方法

    本文介绍了一种全面的解释性方法 FM-G-CAM，它考虑了多个顶级预测类别，并提供了对预测卷积神经网络思维过程的完整解释，同时与 Grad-CAM 进行了比较，并通过实际应用案例突出了其优点。最后，我们介绍了一个使用 FM-G-CAM 生成卷积神经网络模型预测的显著性图的开源 Python 库。

    Dec, 2023