ECCVNov, 2019

高效明晰人工智能的显著性地图

PDF
TL;DR本研究提出了一种针对深度卷积神经网络的可解释性 AI 显著性图方法，其比流行的高分辨率梯度方法更为高效，并且在精度上也与其相当或更好。通过使用 Layer Ordered Visualization of Information，展示了该方法比其他显著性图方法提供更有趣的网络规模内比例贡献比较。此外，该方法在资源有限的平台上如机器人、手机、低成本工业设备、天文和卫星图像等方面是可行的。
explainable aisaliency mapdeep cnnlayer ordered visualizationgrad-cam
发现论文，激发创造
  • 基于显著性的可解释性方法评估

    本文结合三个人体实验研究基于显著性的可解释性方法对于卷积神经网络的解释效果，并评估其可行性。

    Jun, 2021

  • 多通道高分辨率卷积神经网络类激活图

    深度学习中越来越需要可解释的 AI。我们的工作旨在将来自较早和较晚网络层的信息结合起来，产生具有竞争力的高分辨率 Class Activation Map，从而准确定位图像特征，从而超越以前的艺术水平。

    Apr, 2022

  • 评估用于卷积神经网络的显著性图解释：用户研究

    本文研究使用的 CNN 在一些图像分类问题中表现非常好，但是解释 CNN 的操作是非常困难的。因此，本文提出了一种新型的解释算法，称为 LRP 算法，通过人机交互的方式发现这种算法被用于图像分类问题的特定图像特征敏感性，并针对该方法进行了用户评估。评估结果表明，该算法可以帮助参与者学习一些系统对特定图像特征的敏感性，但是对于新图像的分类任务提供的帮助似乎非常有限。因此，HCI 和人工智能社区需要超越实例级别的解释算法，继续研究解释 AI 的设计和进一步研究的问题。

    Feb, 2020

  • 基于多尺度深度特征的视觉显著性

    本文介绍了使用卷积神经网络进行图像视觉显著性建模的方法，采用新的神经网络结构和改进的空间相关性方法，同时使用多重分割提高了性能，实验表明我们提出的方法在公共基准测试中的表现优于目前已发表的最先进技术。

    Mar, 2015

  • 可解释梯度的学习范式

    本论文研究了卷积网络的可解释性，通过利用显著性图进行分析。我们提出了一种新的训练方法，通过引入正则化损失，使标准反向传播得到的输入图像相对于引导反向传播得到的梯度类似。我们发现，由此得到的梯度在质量上更加清晰，量化上改善了不同网络的可解释性特性，使用了多种可解释性方法。

    Apr, 2024

  • 重访反向传播显著性方法

    本文通过分析反向传播型显著性方法，提出了一个框架，将多种方法统一起来，进而提出了一个新的基于空间梯度特征的显著性方法 - NormGrad，并通过将不同层的显著图进行结合，测试不同层级网络提取信息的能力，并且引入了一个类别敏感指标和元学习方法以提高对输出类的敏感度。

    Apr, 2020

  • 态度问题：专注于积极和主动的梯度以提升显著图

    本文探讨了从显著性图中挖掘梯度符号的作用，如何更好地理解多类别分类问题，并揭示了卷积神经网络对图像像素的关注和影响。

    Sep, 2023

  • CAMERAS: 图像显著性的增强分辨率和保持理智的类激活映射

    CAMERAS 是一种新的技术，可以计算高保真度的反向传播显著性地图，而不需要任何外部先验，并保留地图的稳定性。该方法通过多尺度积累和融合激活图和反向传播的梯度来计算精确的显著图，从而能够显著提高黑箱深度视觉模型的解释能力。同时，CAMERAS 可以在对抗性设置中用于捕获攻击目标，其想法也启发了新的评估指标和研究方向。

    Jun, 2021

  • 超越显著性：从层级关联传播的显著性预测理解卷积神经网络

    本论文提出了一种新的二步解释方法 —— SR map，可以更好地理解深度卷积神经网络如何识别图像并从所谓的注意区域中学习特征。该方法清楚地表明了哪些关键像素和注意力区域对于深度卷积神经网络理解给定的图像是有贡献的。

    Dec, 2017

  • 可解释的网络可视化：基于人机协同的 CNN 图像分类后续解释方法

    通过引入一种后置方法，我们解释了卷积神经网络的整个特征提取过程，并包含了一组通过众包活动和自然语言处理技术提取并处理的文本标签，在多幅图像中聚合标签以生成全局解释。

    May, 2024