Nov, 2016

VisualBackProp: 有效可视化卷积神经网络

PDF
TL;DR该研究提出了一种名为 VisualBackProp 的新方法，用于实时可视化基于卷积神经网络（CNN）的系统中哪些输入像素集对预测结果产生最大影响，通过探索特征映射中趋于不重要的信息，该方法可以计算速度快于传统的正向传递方法，并可作为一种有价值的调试工具进行训练与推断。
visualbackpropconvolutional neural networkfeature mapsself-driving carsreal-time
发现论文，激发创造
  • 概念反向传播：神经网络模型中学习概念的可解释人工智能方法

    通过使用概念检测和概念反向传播方法，我们提出了一种神经网络模型的可视化方法，可以直接在模型输入空间中显示模型所依赖的信息，进而分析训练模型所使用的知识。

    Jul, 2023

  • 基於反向傳播可視化的令人困惑行為的理論解釋

    该研究解释了反向传播可视化方法（如 GBP 和 DeconvNet）的行为与特点，提出它们实质上是对图像的重建而不是与网络决策相关的，这种重建与网络的反向传播中采用的 ReLU 函数和局部连接有关。

    May, 2018

  • 一种前向后向方法用于可视化深层网络中的信息流

    该研究提出了一种新的系统框架，用于可视化深度网络中的信息流，通过在给定的测试图像中生成与给定解释有关的紧凑支持，该方法具有计算效率和数值稳健性，并提供了几个初步的数值结果，支持我们的框架优于现有方法的好处。

    Nov, 2017

  • 评估深度神经网络学习的可视化

    本文提出了一种可视化深度神经网络分类决策的方法，使用基于区域扰动的方法评估热图，并比较了三种不同方法计算的热图对网络分类决策的解释力，结果发现基于层级相关传播方法对解释分类决策的效果更好。同时，本文还探讨了利用热图进行神经网络性能无监督评估的方法。

    Sep, 2015

  • 深度卷积神经网络分析的改进

    本论文提出了一种基于可视化分析的方法，以更好地理解、诊断和改进深度卷积神经网络，并使用一些新的算法和技术来显示神经元和神经元群之间的多个方面和交互作用。

    Apr, 2016

  • 为有效学习深度卷积神经网络而设计的中继反向传播算法

    本文从信息理论的角度考虑深度卷积神经网络的学习，提出了一种新的方法 Relay Backpropagation，在训练阶段鼓励网络中有效信息的传播，取得了 ILSVRC 2015 场景分类挑战赛的第一名。在两个具有挑战性的大规模数据集上的广泛实验表明，我们的方法的有效性不限于特定的数据集或网络架构。

    Dec, 2015

  • 共享特征可视化的并行反向传播

    使用基于深度学习的方法，通过对图像的激活进行建模，可以揭示大脑视觉区域中神经元的选择性和共享特征，进而理解为什么一些物体图像会激发这些神经元的反应。

    May, 2024

  • 卷积神经网络像素分类的高效前向和后向传播

    提出了一种使用稀疏核的卷积神经网络算法，用于像素分类任务，避免了传统的图像切片造成的冗余计算，提高了前向和反向传播速度。

    Dec, 2014

  • 通过输入重采样实现卷积神经网络的可视化解释

    我们提出了一种通过检测神经网络中的信息流来分析预测的框架，该框架使用两个指标选择神经元，这些神经元既对网络输出产生巨大影响又能激活通用特征并比较不同度量筛选的神经元集合，从而提出了一种调查卷积神经网络内部注意机制的方法。

    Jul, 2017

  • 卷积神经网络如何看待世界 - 卷积神经网络可视化方法综述

    本文综述了通过 Activation Maximization、Network Inversion、Deconvolutional Neural Networks (DeconvNet) 以及 Network Dissection 等可视化手段实现 CNN 可解释性的方法，并探讨了这些方法在网络设计、优化和安全增强等领域中的实际应用价值。

    Apr, 2018