Oct, 2020

IS-CAM: 基于公理的解释的集成 Score-CAM

PDF
TL;DR提出 IS-CAM (Integrated Score-CAM) 方法来增加卷积神经网络的可解释性，通过将积分操作引入 Score-CAM 管道来实现更加清晰的定位图，并在 ILSVRC 2012 验证数据集的 2000 张随机选择的图像上进行了评估，证明了 IS-CAM 对不同模型和方法的适应性。
发现论文，激发创造
  • Score-CAM：卷积神经网络中的得分加权视觉解释

    本文提出一个名为 Score-CAM 的新型可解释性模型，通过与先前基于类激活映射的方法不同的方式，通过目标类的前向传递得分获得每个激活映射的权重，在权重和激活映射的线性组合下获得最终结果。它获得了更好的视觉性能，良好的公平性，适用于识别和定位任务，以及作为调试工具。该方法摆脱了对梯度的依赖，并通过测试验证。

    Oct, 2019

  • SS-CAM: 平滑的 Score-CAM 用于更清晰的视觉特征定位

    本研究通过对 Score-CAM 的改进，提出了一种增强的可视化解释方法 SS-CAM，通过平滑操作在图像中生成目标特征的集中定位，从而优于 Score-CAM 在忠实度和定位任务方面，对深度卷积神经网络的内在决策进行了分析和理解。

    Jun, 2020

  • 特征 CAM：解释性图像分类中的人工智能

    我们的研究比较了应用于图像分类的激活方法（ABM）中最先进的方法，并通过引入新技术 Feature CAM，得到了在可解释性方面比现有技术提高 3-4 倍的结果。

    Mar, 2024

  • 基于一体化梯度评分的卷积神经网络敏感性感知可视解释

    通过计算 Grad-CAM 的基于梯度项的路径积分，我们提出了一种解决方法，可以更好地说明该模型提取的特征对其预测的重要性，对于物体定位和模型解释具有重要意义。

    Feb, 2021

  • Cluster-CAM: 基于聚类加权的 CNN 图像分类决策可视化

    本文提出了一种新的基于聚类的 CNN 解释算法 Cluster-CAM，它可以分离特征图并采用认知基础映射和认知剪切策略来合并认知图生成显著性热力图，结果显示 Cluster-CAM 比现有的 CAM 能够更准确地匹配人类认知，且在效率和效果上都具有显著优势。

    Feb, 2023

  • 通过迭代内省实现视觉概念识别和定位

    该论文提出了一种基于卷积神经网络和 Class Activation Mapping 等方法的、自我检查图像中信息区域、并在迭代分类中关注对分类问题有用的区域的方法，可在多个数据集上实现有竞争力的甚至最先进的结果。

    Mar, 2016

  • Grad-CAM：你为什么这样说？

    提出了一种基于 Grad-CAM 的透明度技术，通过可视化重要的输入区域来提高人类对卷积神经网络（CNN）模型的理解，帮助理解包括图像字幕和视觉问答（VQA）模型在内的基于 CNN 的模型，并通过测量它们的分类能力、人类可信度和与遮挡地图的相关性来评估它们的视觉解释。

    Nov, 2016

  • CAPE: 用于增强深度神经网络解释的概率集成 CAM

    本文提出了一种名为 CAPE 的新型 CAM 方法，通过对图像区域的统一概率评估来改善 DNN 解释性，在 CUB 和 ImageNet 等数据集上与最先进的 CAM 方法进行了量化和定性比较，并在描绘具有挑战性的 CMML 诊断问题的细胞学成像数据集上进行了测试。

    Apr, 2024

  • 多通道高分辨率卷积神经网络类激活图

    深度学习中越来越需要可解释的 AI。我们的工作旨在将来自较早和较晚网络层的信息结合起来，产生具有竞争力的高分辨率 Class Activation Map，从而准确定位图像特征，从而超越以前的艺术水平。

    Apr, 2022

  • 可靠还是欺骗？探索 CNN 中用于平滑视觉解释的门控特征

    深度学习模型经常因其复杂性而使决策过程难以理解。本文介绍了一种名为 ScoreCAM++ 的简单且高效的方法，它通过修改 ScoreCAM 方法中的归一化函数和激活函数，在视觉可解释性方面取得显著的改进结果。通过广泛的实验和定性比较，我们证明 ScoreCAM++ 在解释决策过程方面表现出明显优越性。

    Apr, 2024