CVPRAug, 2019

卷积神经网络的可解释和细粒度视觉解释

PDF
TL;DR本文提出了一种用于验证神经网络的可视化解释方法，该方法基于优化技术，通过过滤梯度来防止对抗证据。这种方法可以提供细粒度、可解释的图像细节证据，并可针对多个模型和数据集进行定性和定量评估。
verifying networksvisual explanation methodoptimizationadversarial evidence defensemodel evaluation
发现论文，激发创造
  • 可解释的网络可视化：基于人机协同的 CNN 图像分类后续解释方法

    通过引入一种后置方法，我们解释了卷积神经网络的整个特征提取过程，并包含了一组通过众包活动和自然语言处理技术提取并处理的文本标签，在多幅图像中聚合标签以生成全局解释。

    May, 2024

  • 通过解释进行视觉说明：提高深度神经网络视觉反馈能力

    本文提出了一种基于内部特征及可视化的方法，能够自动识别预先训练模型中与给定类相关的特征，以进行深度模型的解释和阐释，并且提出了一种针对 deconvNet 可视化操作引入的伪像问题的方法，同时还提出了一个专门用于视觉解释方法客观定量评估的数据集 an8Flower。实验证明，该方法在 MNIST、ILSVRC12、Fashion144k 和 an8Flower 数据集上能够产生具有良好主题相关特征覆盖的详细解释。

    Dec, 2017

  • 可解释方法中的婴儿大脑注意力方式

    该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

    Jan, 2023

  • 通过输入重采样实现卷积神经网络的可视化解释

    我们提出了一种通过检测神经网络中的信息流来分析预测的框架，该框架使用两个指标选择神经元，这些神经元既对网络输出产生巨大影响又能激活通用特征并比较不同度量筛选的神经元集合，从而提出了一种调查卷积神经网络内部注意机制的方法。

    Jul, 2017

  • VOICE：用于量化神经网络解释不确定性的诱导式对比解释的方差

    该论文可视化和量化基于梯度的神经网络后续可视化解释的预测不确定性，指出不确定性降低了解释的可信度，提出了一种插件方法以可视化和量化任何基于梯度的解释技术剩余的预测不确定性，并通过两个数据集、四种解释技术和六种神经网络架构对提出的观察进行了支持。

    Jun, 2024

  • 常见数据增强对视觉解释的鲁棒性

    本文研究了后续可解释性方法对自然发生的转换形式（即增强）的响应，发现不同的可解释性方法在稳定性上存在显著差异，并提供证据表明，不论数据增强是否用于训练中，在增强方面的解释通常不如分类性能稳健。

    Apr, 2023

  • 可解释性卷积神经网络

    本文提出了一种方法，将传统的 CNN 转换为可解释的 CNN，以澄清 CNN 高卷积层中的知识表示。在可解释的 CNN 中，高卷积层中的每个滤波器表示某个物体部分，无需任何部件或纹理的注释就可以在学习过程中自动分配。实验表明，可解释的 CNN 中的滤波器比传统 CNN 中的滤波器更具有语义意义。

    Oct, 2017

  • 感知可视化：透过深度神经网络的视角看世界

    该论文的研究内容主要涵盖了人工智能、深度神经网络、可解释 AI、视知觉技术以及深度模型的调试等领域。论文提出的 Perception Visualization 技术通过可视化深度模型对于输入图像的感知来解释模型预测结果，研究发现人类能够更好地理解和预测系统决策，从而使深度模型的调试和部署更加可靠。

    Apr, 2022

  • 通过引导概念学习实现可理解的卷积神经网络

    该论文提出了一种带有附加概念层的 CNN 架构的引导学习方法，用于学习视觉特征和单词短语之间的关联，并通过优化预测准确性和特征表示的语义来学习与人类感知一致的概念，实验结果表明，所提出的模型可以在不牺牲准确性的情况下学习一致于人类感知的概念，并可将这些学习到的概念转移到具有相似概念的新对象类别中。

    Jan, 2021

  • 通过基于归因的输入采样和块状特征聚合来解释卷积神经网络

    使用基于归因的输入抽样技术在模型的多个层面收集可视化映射并对其进行聚合，最终实现了对卷积神经网络解释的精细和完整的解释，同时提出了一种基于卷积神经网络模型的层选择策略。实验结果表明，该方法在解释准确度和视觉质量方面能够满足或超越现有方法，且稳定性良好。

    Oct, 2020