Feb, 2023

Cluster-CAM: 基于聚类加权的 CNN 图像分类决策可视化

PDF
TL;DR本文提出了一种新的基于聚类的 CNN 解释算法 Cluster-CAM，它可以分离特征图并采用认知基础映射和认知剪切策略来合并认知图生成显著性热力图，结果显示 Cluster-CAM 比现有的 CAM 能够更准确地匹配人类认知，且在效率和效果上都具有显著优势。
convolutional neural networksclass activation mappinggradient-free camscluster-camcognition maps
发现论文，激发创造
  • Grad-CAM：你为什么这样说？

    提出了一种基于 Grad-CAM 的透明度技术，通过可视化重要的输入区域来提高人类对卷积神经网络（CNN）模型的理解，帮助理解包括图像字幕和视觉问答（VQA）模型在内的基于 CNN 的模型，并通过测量它们的分类能力、人类可信度和与遮挡地图的相关性来评估它们的视觉解释。

    Nov, 2016

  • Grad-CAM: 基于梯度的定位，通过深度网络提供视觉解释

    该论文提出了 Gradient-weighted Class Activation Mapping (Grad-CAM) 技术，结合细粒度的可视化方法，通过对 CNN 模型中任意目标概念的梯度进行处理，使得决策更加透明和可解释，同时能够定位各个重要部件，提高模型泛化性。作者通过将 Grad-CAM 应用于图像分类、字幕和视觉问答模型，并通过人机交互实验证明，该技术能够帮助用户建立模型的信任度并成功辨别模型的强弱。

    Oct, 2016

  • 基于一体化梯度评分的卷积神经网络敏感性感知可视解释

    通过计算 Grad-CAM 的基于梯度项的路径积分，我们提出了一种解决方法，可以更好地说明该模型提取的特征对其预测的重要性，对于物体定位和模型解释具有重要意义。

    Feb, 2021

  • 通过梯度加权类别激活映射实现可解释的语义分割

    本文提出了一种名为 SEG-GRAD-CAM 的基于梯度的方法，扩展了广泛使用的 Grad-CAM 方法，用于解释语义分割中每个像素的相关性。

    Feb, 2020

  • Score-CAM：卷积神经网络中的得分加权视觉解释

    本文提出一个名为 Score-CAM 的新型可解释性模型，通过与先前基于类激活映射的方法不同的方式，通过目标类的前向传递得分获得每个激活映射的权重，在权重和激活映射的线性组合下获得最终结果。它获得了更好的视觉性能，良好的公平性，适用于识别和定位任务，以及作为调试工具。该方法摆脱了对梯度的依赖，并通过测试验证。

    Oct, 2019

  • CAPE: 用于增强深度神经网络解释的概率集成 CAM

    本文提出了一种名为 CAPE 的新型 CAM 方法，通过对图像区域的统一概率评估来改善 DNN 解释性，在 CUB 和 ImageNet 等数据集上与最先进的 CAM 方法进行了量化和定性比较，并在描绘具有挑战性的 CMML 诊断问题的细胞学成像数据集上进行了测试。

    Apr, 2024

  • Group-CAM: 深度卷积网络的组群分数加权视觉解释

    本文提出了一种高效的显著性图生成方法 Group-CAM，通过 “分割 - 变换 - 合并” 策略生成显著性图，可以作为 fine-tuning 网络的有效数据增强技巧，并在常用基准测试 ImageNet-1k 和 COCO2017 上取得比现有解释方法更好的视觉效果。

    Mar, 2021

  • VS-CAM: 用于解释视觉图神经网络的顶点语义类激活映射

    本文提出了一种新的可视化方法：基于节点语义信息的类激活映射（Vertex Semantic Class Activation Mapping，VS-CAM），用于图卷积神经网络（Graph Convolutional Neural Network，GCN）的可视化，结果表明该方法比基于卷积神经网络的类激活映射（Class Activation Mapping,CAM）更能精确地匹配目标区域。

    Sep, 2022

  • FM-G-CAM: 计算机视觉中可解释 AI 的整体方法

    本文介绍了一种全面的解释性方法 FM-G-CAM，它考虑了多个顶级预测类别，并提供了对预测卷积神经网络思维过程的完整解释，同时与 Grad-CAM 进行了比较，并通过实际应用案例突出了其优点。最后，我们介绍了一个使用 FM-G-CAM 生成卷积神经网络模型预测的显著性图的开源 Python 库。

    Dec, 2023

  • 特征激活图：深度学习模型在图像分类中的可视化解释

    提出了一种名为功能激活映射（Feature Activation Map，FAM）的后期解释工具，以此来解释并理解没有全连接层的深度学习模型（如少样本学习图像分类、对比学习图像分类和图像检索任务），其原理是通过两个图像嵌入之间的相似性得出通道贡献权重，并将激活映射与相应的归一化贡献权重线性组合形成可视化的解释图。经过对十种深度学习模型进行的定量和定性实验表明，该算法的有效性。

    Jul, 2023