深度学习解释和类激活图的集成特征分析

Jul, 2024

深度学习解释和类激活图的集成特征分析

Integrated feature analysis for deep learning interpretation and class activation maps

Yanli Li, Tahereh Hassanzadeh, Denis P. Shamonin, Monique Reijnierse, Annette H.M. van der Helm-van Mil...

TL;DR为了更深入了解深度学习模型提取的中间特征，我们提出了一种综合特征分析方法，通过特征分布分析和特征分解来探索模型对数据集的影响，并提供了一种常用强度标尺的分布信息，以解决当前 CAM 算法中缺失的信息，验证了该方法的可靠性和相对简洁性。

Abstract

Understanding the decisions of deep learning (DL) models is essential for the acceptance of DL to risk-sensitive applications. Although methods, like class activation maps (CAMs), give a glimpse into the black box, they do miss some crucial information, thereby limiting its interpretability and merely providing the considered locations of objects. To provide

deep learning models interpretablity feature analysis cam algorithms model interpretation

发现论文，激发创造

Decom--CAM: 通过解耦类激活映射详细解释特征层面的图像识别结果

该论文提出了一种新的两阶段可解释性方法 - 分解类激活图（Decom-CAM），将中间激活图分解为正交特征并通过它们的整合生成显著图，以更好地解释深度学习模型预测，该方法明显优于现有最先进的方法。

May, 2023

特征激活图：深度学习模型在图像分类中的可视化解释

提出了一种名为功能激活映射（Feature Activation Map，FAM）的后期解释工具，以此来解释并理解没有全连接层的深度学习模型（如少样本学习图像分类、对比学习图像分类和图像检索任务），其原理是通过两个图像嵌入之间的相似性得出通道贡献权重，并将激活映射与相应的归一化贡献权重线性组合形成可视化的解释图。经过对十种深度学习模型进行的定量和定性实验表明，该算法的有效性。

Jul, 2023

聚合类别激活图的可视化分析全局类特征的方法

使用 Class Activation Maps（CAMs）方法对深度学习模型进行全局解释，通过方块表示每个特征的分类影响，大小描述了不同样本间影响的变化，提供交互式直方图进行进一步分析筛选，从而在高维数据中检测重要特征并根据全局解释进行 AI 模型调整。

Jul, 2023

DecomCAM: 通过分解和整合推动超越显著性地图

利用分解与整合方法的 DecomCAM 对复杂深度网络进行解释，突出显示模型决策基础的区域，提供清晰的显著性图和详细的可解释性，通过对目标概念的贡献进行集成，实现了定位准确性、可解释性和计算效率的优化平衡，有可能成为高级深度学习模型细粒度解释的工具。

May, 2024

特征 CAM：解释性图像分类中的人工智能

我们的研究比较了应用于图像分类的激活方法（ABM）中最先进的方法，并通过引入新技术 Feature CAM，得到了在可解释性方面比现有技术提高 3-4 倍的结果。

Mar, 2024

可视化解释性的类激活图综述

最近在深度学习方法学研究方面取得了一系列复杂的计算机视觉模型技术，达到甚至超过了人类的表现。然而，这些黑盒深度学习模型在可解释性和透明度方面存在一定限制，而这对将学习机器纳入涉及人类监督的敏感决策支持系统中是至关重要的。因此，解释性计算机视觉技术的发展近年来引起了越来越多的关注。在解释性计算机视觉领域中，类激活映射（CAMs）已被广泛认可和利用，以增强深度学习模型决策过程的可解释性和洞察力。本文全面概述了类激活映射方法随着时间推移的演变，并探讨了用于评估类激活映射的度量标准，并介绍了改善这些方法显著性的辅助技术。概述最后提出了未来研究的潜在方向。

Sep, 2023

使用主成分的类激活映射（Eigen-CAM）

本文提出了一种新的方法，Eigen-CAM，用于生成深度卷积神经网络 (CNNs) 的类激活图，该方法通过计算 CNNs 的卷积层的特征 / 表示的主要成分来实现，且不需要更改层或重新训练模型。与目前最先进的方法相比，在弱监督目标定位任务上，Eigen-CAM 取得了高达 12% 的性能提升，并且相对于 CNNs 的全连接层的分类错误具有强鲁棒性。

Aug, 2020

CAPE: 用于增强深度神经网络解释的概率集成 CAM

本文提出了一种名为 CAPE 的新型 CAM 方法，通过对图像区域的统一概率评估来改善 DNN 解释性，在 CUB 和 ImageNet 等数据集上与最先进的 CAM 方法进行了量化和定性比较，并在描绘具有挑战性的 CMML 诊断问题的细胞学成像数据集上进行了测试。

Apr, 2024

MetaCAM：基于集成的类激活图

提出了基于集成的 MetaCAM 方法，结合多种现有的 Class Activation Maps 方法，通过对组件 CAMs 中最高激活像素的前 k% 的一致性进行集成，优化了深度学习模型预测中显著区域的定位性能，并通过自适应阈值方法改善了 CAMs 的性能。

Jul, 2023

多通道高分辨率卷积神经网络类激活图

深度学习中越来越需要可解释的 AI。我们的工作旨在将来自较早和较晚网络层的信息结合起来，产生具有竞争力的高分辨率 Class Activation Map，从而准确定位图像特征，从而超越以前的艺术水平。

Apr, 2022