深度学习中越来越需要可解释的 AI。我们的工作旨在将来自较早和较晚网络层的信息结合起来，产生具有竞争力的高分辨率 Class Activation Map，从而准确定位图像特征，从而超越以前的艺术水平。

Apr, 2022

本文提出了一种基于绝对值的类激活映射（Abs-CAM）方法，优化了反向传播得到的梯度，使所有梯度都变为正梯度，从而增强了输出神经元激活的视觉特征，并提高了显著图的定位能力。该方法通过两个阶段的生成显著图来改善其定位能力，并在识别和定位任务中表现优异。

Jul, 2022

本研究提出了一种针对深度卷积神经网络的可解释性 AI 显著性图方法，其比流行的高分辨率梯度方法更为高效，并且在精度上也与其相当或更好。通过使用 Layer Ordered Visualization of Information，展示了该方法比其他显著性图方法提供更有趣的网络规模内比例贡献比较。此外，该方法在资源有限的平台上如机器人、手机、低成本工业设备、天文和卫星图像等方面是可行的。

Nov, 2019

本文通过分析反向传播型显著性方法，提出了一个框架，将多种方法统一起来，进而提出了一个新的基于空间梯度特征的显著性方法 - NormGrad，并通过将不同层的显著图进行结合，测试不同层级网络提取信息的能力，并且引入了一个类别敏感指标和元学习方法以提高对输出类的敏感度。

Apr, 2020

CAM-based 方法是广泛使用的事后解释性方法，通过生成热点图来解释图像分类模型的决策。在本文中，我们展示了大部分这些方法可能会错误地将重要分数归因于模型无法看到的图像部分。我们从理论和实验两方面分析了该现象，并通过两个新数据集进行了定量评估。我们认为这是有问题的，可能导致对模型行为的错误解释。

Apr, 2024

近年来，提出了几种使用分类器生成的类激活图（CAMs）产生伪地面实况用于训练分割模型的弱监督语义分割（WS3）方法。本文对 WS3 中的类激活图（CAMs）和显著图进行了全面比较，并提出了新的评估指标，以全面评估 WS3 中替代方法的性能。我们通过对基准数据集进行的实证研究，证明了显著图在解决类激活图（CAMs）的局限性方面的有效性。此外，我们提出了随机裁剪作为一种随机聚合技术，提高了显著图的性能，并使其成为 WS3 中强有力的类激活图（CAMs）替代方法。

Aug, 2023

本论文研究了卷积网络的可解释性，通过利用显著性图进行分析。我们提出了一种新的训练方法，通过引入正则化损失，使标准反向传播得到的输入图像相对于引导反向传播得到的梯度类似。我们发现，由此得到的梯度在质量上更加清晰，量化上改善了不同网络的可解释性特性，使用了多种可解释性方法。

Apr, 2024

利用分解与整合方法的 DecomCAM 对复杂深度网络进行解释，突出显示模型决策基础的区域，提供清晰的显著性图和详细的可解释性，通过对目标概念的贡献进行集成，实现了定位准确性、可解释性和计算效率的优化平衡，有可能成为高级深度学习模型细粒度解释的工具。

May, 2024

本文提出了一种高效的显著性图生成方法 Group-CAM，通过 “分割 - 变换 - 合并” 策略生成显著性图，可以作为 fine-tuning 网络的有效数据增强技巧，并在常用基准测试 ImageNet-1k 和 COCO2017 上取得比现有解释方法更好的视觉效果。

Mar, 2021

本文介绍了一种快速的显著性检测方法，可以应用于任何可微分的图像分类器，其通过训练掩膜模型来操纵分类器的分数，从而检测图像的显著部分，并在 CIFAR-10 和 ImageNet 数据集上进行了测试，表明其结果优于其他弱监督方法。

May, 2017