Jul, 2023

一种新颖的可解释人工智能模型解决图像分类问题

PDF
TL;DR最近几年，人工智能在许多不同领域得到广泛应用，对人类生活产生了深远而直接的影响。本文提出了一个名为 “分割 - 类激活映射（SeCAM）” 的新方法，结合了现有算法的优势，并克服了它们的不足之处，用来解释人工智能模型，特别是图像分类领域的问题。通过在 ImageNet Large Scale Visual Recognition Challenge（ILSVRC）数据集上使用 ResNet50，Inception-v3，VGG16 等模型进行测试，证明了这种算法在极短的时间内可以满足特定解释的所有要求，取得了出色的结果。
artificial intelligencemodel making predictionsexplanation of ai modelsimage classificationsegmentation - class activation mapping
发现论文，激发创造
  • 特征 CAM：解释性图像分类中的人工智能

    我们的研究比较了应用于图像分类的激活方法（ABM）中最先进的方法，并通过引入新技术 Feature CAM，得到了在可解释性方面比现有技术提高 3-4 倍的结果。

    Mar, 2024

  • 可视化解释性的类激活图综述

    最近在深度学习方法学研究方面取得了一系列复杂的计算机视觉模型技术，达到甚至超过了人类的表现。然而，这些黑盒深度学习模型在可解释性和透明度方面存在一定限制，而这对将学习机器纳入涉及人类监督的敏感决策支持系统中是至关重要的。因此，解释性计算机视觉技术的发展近年来引起了越来越多的关注。在解释性计算机视觉领域中，类激活映射（CAMs）已被广泛认可和利用，以增强深度学习模型决策过程的可解释性和洞察力。本文全面概述了类激活映射方法随着时间推移的演变，并探讨了用于评估类激活映射的度量标准，并介绍了改善这些方法显著性的辅助技术。概述最后提出了未来研究的潜在方向。

    Sep, 2023

  • 重新审视基于类激活映射的可解释性评估：一种新的度量和实验分析

    本文提出了一种新的指标来量化解释性映射，以提高 Class Activation Mapping (CAM) 方法的评估和重现，通过比较不同基于 CAM 的可视化方法来证明这种新指标的适用性。

    Apr, 2021

  • 基于 XAI 增强的语义分割模型用于视觉质量检测

    通过使用基于 CAM 的解释来完善语义分割模型，本研究提出了提升视觉质量检测系统的框架。该框架包括模型训练、基于 XAI 的模型解释、XAI 评估和注释增强等步骤，通过解释和专家洞见进行指导。评估结果表明，基于 XAI 的模型在复杂目标分割方面优于原始的 DeepLabv3-ResNet101 模型。

    Jan, 2024

  • 聚合类别激活图的可视化分析全局类特征的方法

    使用 Class Activation Maps（CAMs）方法对深度学习模型进行全局解释，通过方块表示每个特征的分类影响，大小描述了不同样本间影响的变化，提供交互式直方图进行进一步分析筛选，从而在高维数据中检测重要特征并根据全局解释进行 AI 模型调整。

    Jul, 2023

  • IS-CAM: 基于公理的解释的集成 Score-CAM

    提出 IS-CAM (Integrated Score-CAM) 方法来增加卷积神经网络的可解释性，通过将积分操作引入 Score-CAM 管道来实现更加清晰的定位图，并在 ILSVRC 2012 验证数据集的 2000 张随机选择的图像上进行了评估，证明了 IS-CAM 对不同模型和方法的适应性。

    Oct, 2020

  • DSEG-LIME -- 提升图像解释的分层数据驱动分割

    DSEG-LIME 通过数据驱动的分割方式，以及分层分割程序，提高了解释性，大部分的 XAI 评估指标都表现出了 DSEG 的优势，与人工识别的概念更加契合。

    Mar, 2024

  • 通过梯度加权类别激活映射实现可解释的语义分割

    本文提出了一种名为 SEG-GRAD-CAM 的基于梯度的方法，扩展了广泛使用的 Grad-CAM 方法，用于解释语义分割中每个像素的相关性。

    Feb, 2020

  • 扩展基于 CAM 的遥感图像分割的可解释人工智能方法

    通过适应最近的 XAI 分类算法并将它们用于多类别图像分割，本文着重于对高分辨率卫星图像中的建筑物分割的研究，引入了一种基于 “熵” 来衡量模型不确定性的新的 XAI 评估方法和指标，以此来提供透明度和可解释性，为图像分割领域的 XAI 研究和遥感应用铺平道路。

    Oct, 2023

  • CAManim：动画化端到端网络激活图

    提出了一种名为 CAManim 的 XAI 可视化方法，通过动画方式将基于 CAM 的网络激活图显示在所有层次上，从而有效地展示模型如何逐步达到最终层激活，不仅仅对模型进行定性评估，还提出了用于量化评估的新方法（ybROAD）。

    Dec, 2023