提出了一种基于 Grad-CAM 的透明度技术，通过可视化重要的输入区域来提高人类对卷积神经网络（CNN）模型的理解，帮助理解包括图像字幕和视觉问答（VQA）模型在内的基于 CNN 的模型，并通过测量它们的分类能力、人类可信度和与遮挡地图的相关性来评估它们的视觉解释。

Nov, 2016

该论文提出了 Gradient-weighted Class Activation Mapping (Grad-CAM) 技术，结合细粒度的可视化方法，通过对 CNN 模型中任意目标概念的梯度进行处理，使得决策更加透明和可解释，同时能够定位各个重要部件，提高模型泛化性。作者通过将 Grad-CAM 应用于图像分类、字幕和视觉问答模型，并通过人机交互实验证明，该技术能够帮助用户建立模型的信任度并成功辨别模型的强弱。

Oct, 2016

本文提出一个名为 Score-CAM 的新型可解释性模型，通过与先前基于类激活映射的方法不同的方式，通过目标类的前向传递得分获得每个激活映射的权重，在权重和激活映射的线性组合下获得最终结果。它获得了更好的视觉性能，良好的公平性，适用于识别和定位任务，以及作为调试工具。该方法摆脱了对梯度的依赖，并通过测试验证。

Oct, 2019

深度学习中越来越需要可解释的 AI。我们的工作旨在将来自较早和较晚网络层的信息结合起来，产生具有竞争力的高分辨率 Class Activation Map，从而准确定位图像特征，从而超越以前的艺术水平。

Apr, 2022

本文提出 Shap-CAM，一种基于类激活映射的新型后续可视化解释方法，通过获取 Shapley 值来消除依赖于梯度的先前方法的不足，表现出更好的视觉性能和公平性以解释决策过程。

Aug, 2022

通过计算 Grad-CAM 的基于梯度项的路径积分，我们提出了一种解决方法，可以更好地说明该模型提取的特征对其预测的重要性，对于物体定位和模型解释具有重要意义。

Feb, 2021

本文提出了一种新的基于聚类的 CNN 解释算法 Cluster-CAM，它可以分离特征图并采用认知基础映射和认知剪切策略来合并认知图生成显著性热力图，结果显示 Cluster-CAM 比现有的 CAM 能够更准确地匹配人类认知，且在效率和效果上都具有显著优势。

Feb, 2023

本文提出了一种高效的显著性图生成方法 Group-CAM，通过 “分割 - 变换 - 合并” 策略生成显著性图，可以作为 fine-tuning 网络的有效数据增强技巧，并在常用基准测试 ImageNet-1k 和 COCO2017 上取得比现有解释方法更好的视觉效果。

Mar, 2021

本文提出了一种基于绝对值的类激活映射（Abs-CAM）方法，优化了反向传播得到的梯度，使所有梯度都变为正梯度，从而增强了输出神经元激活的视觉特征，并提高了显著图的定位能力。该方法通过两个阶段的生成显著图来改善其定位能力，并在识别和定位任务中表现优异。

Jul, 2022

我们的研究比较了应用于图像分类的激活方法（ABM）中最先进的方法，并通过引入新技术 Feature CAM，得到了在可解释性方面比现有技术提高 3-4 倍的结果。

Mar, 2024