U-CAM: 基于不确定性的类激活映射的可视化解释

ICCVAug, 2019

U-CAM: 基于不确定性的类激活映射的可视化解释

U-CAM: Visual Explanation using Uncertainty based Class Activation Maps

Badri N. Patro, Mayank Lunayach, Shivansh Patel, Vinay P. Namboodiri

TL;DR本研究针对深度学习模型的解释提出了一种方法，通过梯度获取与误分类样本更相关的确信度估计和提供视觉注意力图，特别是在视觉问答任务中，该方法采用现代概率深度学习方法，并进一步通过这些估计梯度进行改进，得到具有人类注意区域相关性的先进的注意力图，从而提供了更好的解释能力。我们在所有标准基准测试上提供了详细的实证分析和与现有方法的比较。

Abstract

Understanding and explaining deep learning models is an imperative task. Towards this, we propose a method that obtains gradient-based certainty estimates that also provide visual attention maps. Particularly, we

deep learning gradient-based certainty estimates visual question answering probabilistic methods attention maps

发现论文，激发创造

基于不确定性的视觉问答类激活图

这篇研究提出了一种方法，通过基于梯度的确定性估计来解决视觉问答任务，进一步利用这些估计来获得可视化的注意力图，从而提高深度学习模型的确定性估计和解释能力，并在各项标准基准测试中提供实证分析及与现有方法的比较

Jan, 2020

Grad-CAM: 基于梯度的定位，通过深度网络提供视觉解释

该论文提出了 Gradient-weighted Class Activation Mapping (Grad-CAM) 技术，结合细粒度的可视化方法，通过对 CNN 模型中任意目标概念的梯度进行处理，使得决策更加透明和可解释，同时能够定位各个重要部件，提高模型泛化性。作者通过将 Grad-CAM 应用于图像分类、字幕和视觉问答模型，并通过人机交互实验证明，该技术能够帮助用户建立模型的信任度并成功辨别模型的强弱。

Oct, 2016

Grad-CAM：你为什么这样说？

提出了一种基于 Grad-CAM 的透明度技术，通过可视化重要的输入区域来提高人类对卷积神经网络（CNN）模型的理解，帮助理解包括图像字幕和视觉问答（VQA）模型在内的基于 CNN 的模型，并通过测量它们的分类能力、人类可信度和与遮挡地图的相关性来评估它们的视觉解释。

Nov, 2016

Explanation vs Attention: 一种用于 VQA 注重力获取的双人博弈

使用对抗训练作为监督学习来提高注意力映射，改善视觉问答任务的表现，同时与其他学习分布的方法相比，发现对抗损失函数表现更好。

Nov, 2019

可视化解释性的类激活图综述

最近在深度学习方法学研究方面取得了一系列复杂的计算机视觉模型技术，达到甚至超过了人类的表现。然而，这些黑盒深度学习模型在可解释性和透明度方面存在一定限制，而这对将学习机器纳入涉及人类监督的敏感决策支持系统中是至关重要的。因此，解释性计算机视觉技术的发展近年来引起了越来越多的关注。在解释性计算机视觉领域中，类激活映射（CAMs）已被广泛认可和利用，以增强深度学习模型决策过程的可解释性和洞察力。本文全面概述了类激活映射方法随着时间推移的演变，并探讨了用于评估类激活映射的度量标准，并介绍了改善这些方法显著性的辅助技术。概述最后提出了未来研究的潜在方向。

Sep, 2023

UM-CAM：基于不确定性加权的多分辨率类激活图在弱监督下进行胎儿脑分割

本文提出了一种基于 UM-CAM 的新型弱监督学习方法，利用语义特征和上下文信息探测，解决了采用图像级标签的弱监督分割方法中出现的活跃区域不完整的问题，对于胎儿脑分割任务取得了良好的性能。

Jun, 2023

保持冷静，提高视觉特征归因

本文提出的 CALM 模型通过将经验校准步骤嵌入模型以及使用潜在变量来改进 CAM 算法的短处，在具有弱监督目标检测的基准测试中表现出更好的性能。

Jun, 2021

重新审视基于类激活映射的可解释性评估：一种新的度量和实验分析

本文提出了一种新的指标来量化解释性映射，以提高 Class Activation Mapping (CAM) 方法的评估和重现，通过比较不同基于 CAM 的可视化方法来证明这种新指标的适用性。

Apr, 2021

CAPE: 用于增强深度神经网络解释的概率集成 CAM

本文提出了一种名为 CAPE 的新型 CAM 方法，通过对图像区域的统一概率评估来改善 DNN 解释性，在 CUB 和 ImageNet 等数据集上与最先进的 CAM 方法进行了量化和定性比较，并在描绘具有挑战性的 CMML 诊断问题的细胞学成像数据集上进行了测试。

Apr, 2024

多通道高分辨率卷积神经网络类激活图

深度学习中越来越需要可解释的 AI。我们的工作旨在将来自较早和较晚网络层的信息结合起来，产生具有竞争力的高分辨率 Class Activation Map，从而准确定位图像特征，从而超越以前的艺术水平。

Apr, 2022