NIPSNov, 2017

一种前向后向方法用于可视化深层网络中的信息流

PDF
TL;DR该研究提出了一种新的系统框架，用于可视化深度网络中的信息流，通过在给定的测试图像中生成与给定解释有关的紧凑支持，该方法具有计算效率和数值稳健性，并提供了几个初步的数值结果，支持我们的框架优于现有方法的好处。
visualizinginformation flowdeep networkssupportnumerical results
发现论文，激发创造
  • 一种新的深度神经网络可视化方法

    提出了一种可视化深度神经网络对特定输入的响应的方法，通过实验应用于 ImageNet 数据集，阐述了其如何应用于不同方面，以理解深度神经网络的决策过程。

    Mar, 2016

  • 通过解释进行视觉说明：提高深度神经网络视觉反馈能力

    本文提出了一种基于内部特征及可视化的方法，能够自动识别预先训练模型中与给定类相关的特征，以进行深度模型的解释和阐释，并且提出了一种针对 deconvNet 可视化操作引入的伪像问题的方法，同时还提出了一个专门用于视觉解释方法客观定量评估的数据集 an8Flower。实验证明，该方法在 MNIST、ILSVRC12、Fashion144k 和 an8Flower 数据集上能够产生具有良好主题相关特征覆盖的详细解释。

    Dec, 2017

  • VisualBackProp: 有效可视化卷积神经网络

    该研究提出了一种名为 VisualBackProp 的新方法，用于实时可视化基于卷积神经网络（CNN）的系统中哪些输入像素集对预测结果产生最大影响，通过探索特征映射中趋于不重要的信息，该方法可以计算速度快于传统的正向传递方法，并可作为一种有价值的调试工具进行训练与推断。

    Nov, 2016

  • 卷积神经网络的可解释和细粒度视觉解释

    本文提出了一种用于验证神经网络的可视化解释方法，该方法基于优化技术，通过过滤梯度来防止对抗证据。这种方法可以提供细粒度、可解释的图像细节证据，并可针对多个模型和数据集进行定性和定量评估。

    Aug, 2019

  • 关于网络科学和互信息的深度神经网络解释

    本文提出了一种新的方法来解释深度学习模型，并通过结合互信息和网络科学探究了信息在前馈网络中的流动。我们展示了高效近似互信息可以创造一个信息度量，用于量化深度学习模型中任意两个神经元之间流动的信息量，并提出了神经信息流（NIF）技术，用于编码信息流并提供特征归因。

    Jan, 2019

  • 深度卷积网络的影响驱动解释

    该研究旨在解释深度神经网络的行为特性，作者通过使用基于公理的影响测量方法来识别对感兴趣的数量和分布具有高影响力的神经元，并解释这些神经元所代表的概念。通过在 ImageNet 数据集上测试，作者证明了影响导向的解释方法具有将信仰术语的影响概念推广到更多实例的能力，可以提取网络中关于类别的核心信息，可以分离网络用于做出决策和区分相关类别所使用的单个特征。

    Feb, 2018

  • 深度可视化理解神经网络

    该研究介绍了两个工具，用于可视化和解释深度卷积神经网络的计算过程，加速深度学习领域的发展。这些工具包括可视化神经网络在图像或视频处理过程中每一层产生的激活，并通过映射到图像空间进行的规则优化来可视化每一层的特征。

    Jun, 2015

  • 可解释的网络可视化：基于人机协同的 CNN 图像分类后续解释方法

    通过引入一种后置方法，我们解释了卷积神经网络的整个特征提取过程，并包含了一组通过众包活动和自然语言处理技术提取并处理的文本标签，在多幅图像中聚合标签以生成全局解释。

    May, 2024

  • 通过输入重采样实现卷积神经网络的可视化解释

    我们提出了一种通过检测神经网络中的信息流来分析预测的框架，该框架使用两个指标选择神经元，这些神经元既对网络输出产生巨大影响又能激活通用特征并比较不同度量筛选的神经元集合，从而提出了一种调查卷积神经网络内部注意机制的方法。

    Jul, 2017

  • 可解释方法中的婴儿大脑注意力方式

    该文提出了一种名为 “可解释的几何深度网络” 的端到端学习方法，用于在高维数据中实现精细的可解释性，例如神经成像和神经科学研究。该方法采用学习解释性因素来增强鉴别性表示提取，以实现可解释的预测和分类结果。

    Jan, 2023