Feb, 2024

挑战黑盒子：农林业 CNN 应用的属性图全面评估

PDF
TL;DR通过对农业和林业中神经网络在肥料处理分类和木材鉴别中的可解释性进行研究，我们发现目前最先进的归因图方法的实用性存在重大问题。这些归因图经常无法准确突出关键特征，并且与领域专家认为重要的特征经常不一致，这对决策过程的理解提出了重要问题。我们的研究对农业和林业领域中归因图的可信度和实际应用性提供了重要见解，有助于更好地理解这些应用领域中的神经网络。
发现论文，激发创造
  • 特征 CAM：解释性图像分类中的人工智能

    我们的研究比较了应用于图像分类的激活方法（ABM）中最先进的方法，并通过引入新技术 Feature CAM，得到了在可解释性方面比现有技术提高 3-4 倍的结果。

    Mar, 2024

  • EvalAttAI: 对鲁棒和非鲁棒模型中评估属性图的整体方法

    探索透视医学影像分类应用的影响映射方法和度量评估，提出 EvalAttAI 度量已有度量的局限并进行改进，结果显示：使用 Vanilla Gradient 方法的贝叶斯深度神经网络通常更具可解释性。

    Mar, 2023

  • 你看到的就是你分类的：黑盒归因

    在黑盒神经网络的基础上，通过训练第二个网络来预测对预备的黑盒分类器的贡献，并将这些贡献以只显示与分类器相关部分的蒙版的形式提供，我们的方法可以直接在单个前向传递中生成非常明显的类特定蒙版。

    May, 2022

  • 重新审视基于类激活映射的可解释性评估：一种新的度量和实验分析

    本文提出了一种新的指标来量化解释性映射，以提高 Class Activation Mapping (CAM) 方法的评估和重现，通过比较不同基于 CAM 的可视化方法来证明这种新指标的适用性。

    Apr, 2021

  • 可视化解释性的类激活图综述

    最近在深度学习方法学研究方面取得了一系列复杂的计算机视觉模型技术，达到甚至超过了人类的表现。然而，这些黑盒深度学习模型在可解释性和透明度方面存在一定限制，而这对将学习机器纳入涉及人类监督的敏感决策支持系统中是至关重要的。因此，解释性计算机视觉技术的发展近年来引起了越来越多的关注。在解释性计算机视觉领域中，类激活映射（CAMs）已被广泛认可和利用，以增强深度学习模型决策过程的可解释性和洞察力。本文全面概述了类激活映射方法随着时间推移的演变，并探讨了用于评估类激活映射的度量标准，并介绍了改善这些方法显著性的辅助技术。概述最后提出了未来研究的潜在方向。

    Sep, 2023

  • 特征激活图：深度学习模型在图像分类中的可视化解释

    提出了一种名为功能激活映射（Feature Activation Map，FAM）的后期解释工具，以此来解释并理解没有全连接层的深度学习模型（如少样本学习图像分类、对比学习图像分类和图像检索任务），其原理是通过两个图像嵌入之间的相似性得出通道贡献权重，并将激活映射与相应的归一化贡献权重线性组合形成可视化的解释图。经过对十种深度学习模型进行的定量和定性实验表明，该算法的有效性。

    Jul, 2023

  • 评估图像分类中的偏差

    本研究通过使用归因地图的方法，系统性地揭示数据偏差，从而证明了某些归因地图技术比其他技术更好地凸显了数据中的偏差，并且度量可以支持发现偏差。

    Jul, 2021

  • 卷积神经网络中语义可解释激活图：what-where-how 解释

    本文提出一种名为 SIAM 的中间表示方式，通过其生成属性地图并结合线性组合的方法，实现了将 CNN 中的决策过程更为直观化、可解释的效果，并通过景观美学价值评估任务验证了其有效性。

    Sep, 2019

  • CAManim：动画化端到端网络激活图

    提出了一种名为 CAManim 的 XAI 可视化方法，通过动画方式将基于 CAM 的网络激活图显示在所有层次上，从而有效地展示模型如何逐步达到最终层激活，不仅仅对模型进行定性评估，还提出了用于量化评估的新方法（ybROAD）。

    Dec, 2023

  • CAPE: 用于增强深度神经网络解释的概率集成 CAM

    本文提出了一种名为 CAPE 的新型 CAM 方法，通过对图像区域的统一概率评估来改善 DNN 解释性，在 CUB 和 ImageNet 等数据集上与最先进的 CAM 方法进行了量化和定性比较，并在描绘具有挑战性的 CMML 诊断问题的细胞学成像数据集上进行了测试。

    Apr, 2024