本论文提出了一种将 Grad-CAM 从基于实例的解释方法扩展到全局模型行为解释方法的新方法，其中引入了两个新指标来评估模型的泛化能力，利用对原始测试集和敌对测试集样本的 Grad-CAM 生成热图的规范化倒置结构相似性指标（NISSIM）来计算这些指标，该方法能够帮助了解 CNN 模型在图像分析中的异常行为。

Apr, 2022

该论文提出了 Gradient-weighted Class Activation Mapping (Grad-CAM) 技术，结合细粒度的可视化方法，通过对 CNN 模型中任意目标概念的梯度进行处理，使得决策更加透明和可解释，同时能够定位各个重要部件，提高模型泛化性。作者通过将 Grad-CAM 应用于图像分类、字幕和视觉问答模型，并通过人机交互实验证明，该技术能够帮助用户建立模型的信任度并成功辨别模型的强弱。

Oct, 2016

本研究提出了一种新的方法 ——Adversarial Camouflage，在数字和现实情境下都能够制造出看起来合理、而且几乎不被发现的隐形对抗样本，以此来检验 DNN 的鲁棒性。

Mar, 2020

提出了一种基于 Grad-CAM 的透明度技术，通过可视化重要的输入区域来提高人类对卷积神经网络（CNN）模型的理解，帮助理解包括图像字幕和视觉问答（VQA）模型在内的基于 CNN 的模型，并通过测量它们的分类能力、人类可信度和与遮挡地图的相关性来评估它们的视觉解释。

Nov, 2016

本文介绍了一种新的端到端框架来检测深度神经网络中可能存在的对抗样本，采用神经元覆盖率引导测试来分析 DNN 的密集层激活模式，以实现实时检测，能够覆盖各种类型的 DNN 架构，包括 LSTM，防御了最先进的攻击，同时提供确保无法轻易绕过的白盒自适应攻击。

Nov, 2019

本文提出了一种基于绝对值的类激活映射（Abs-CAM）方法，优化了反向传播得到的梯度，使所有梯度都变为正梯度，从而增强了输出神经元激活的视觉特征，并提高了显著图的定位能力。该方法通过两个阶段的生成显著图来改善其定位能力，并在识别和定位任务中表现优异。

Jul, 2022

本研究介绍了一种新的正则化方法 —— 对抗性噪声层（ANL）及其高效版本 —— 类对抗性噪声层（CANL），通过在中间层激活中添加巧妙裁剪的噪声，能够明显提高 CNN 的泛化能力。与传统的对抗训练方法相比，使用 ANL 或 CANL 训练的模型更能抵御 FGSM 生成的对抗性样本。

May, 2018

本研究提出一种基于差分演化的对抗性伪装方法 (DE_DAC)，旨在同时欺骗人眼和目标检测器。该方法包含两个阶段，分别对全局和局部纹理进行优化，从而达到伪装目的。其中，差分演化算法用于搜索攻击对象的最优区域。实验结果表明，该方法在多个场景和物体上能够良好地平衡人眼和目标检测器的伪装效果。

Oct, 2022

通过计算 Grad-CAM 的基于梯度项的路径积分，我们提出了一种解决方法，可以更好地说明该模型提取的特征对其预测的重要性，对于物体定位和模型解释具有重要意义。

Feb, 2021

本文提出了一种使用高斯激活映射解释器（G-CAME）生成显着性图作为解释目标检测模型的方法，与其他基于区域的方法相比，G-CAME 具有更短的解释时间，并在 MS-COCO2017 数据集上得到了定性和定量的评估。

Jun, 2023