BriefGPT.xyz
Apr, 2022
使用 Grad-CAM 进行普适对抗性解释
Generalizing Adversarial Explanations with Grad-CAM
HTML
PDF
Tanmay Chakraborty, Utkarsh Trehan, Khawla Mallat, Jean-Luc Dugelay
TL;DR
本论文提出了一种将Grad-CAM从基于实例的解释方法扩展到全局模型行为解释方法的新方法,其中引入了两个新指标来评估模型的泛化能力,利用对原始测试集和敌对测试集样本的Grad-CAM生成热图的规范化倒置结构相似性指标(NISSIM)来计算这些指标,该方法能够帮助了解CNN模型在图像分析中的异常行为。
Abstract
Gradient-weighted Class Activation Mapping (Grad- CAM), is an example-based
explanation method
that provides a gradient activation heat map as an explanation for Convolution Neural Network (
cnn
) models. The drawb
→