Apr, 2018

卷积神经网络如何看待世界 - 卷积神经网络可视化方法综述

PDF
TL;DR本文综述了通过 Activation Maximization、Network Inversion、Deconvolutional Neural Networks (DeconvNet) 以及 Network Dissection 等可视化手段实现 CNN 可解释性的方法，并探讨了这些方法在网络设计、优化和安全增强等领域中的实际应用价值。
convolutional neural networkscnnsvisualizationinterpretabilitydeep learning
发现论文，激发创造
  • 深度可视化理解神经网络

    该研究介绍了两个工具，用于可视化和解释深度卷积神经网络的计算过程，加速深度学习领域的发展。这些工具包括可视化神经网络在图像或视频处理过程中每一层产生的激活，并通过映射到图像空间进行的规则优化来可视化每一层的特征。

    Jun, 2015

  • V-CNN：卷积神经网络遇上数据可视化

    这篇论文介绍了一种叫做 V-CNN 的新方法，它利用数据可视化辅助卷积神经网络（CNN）对图像进行处理，并将其应用到网络入侵检测问题，得到了比传统方法更好的结果。

    Jun, 2018

  • 可视化和比较卷积神经网络

    该研究试图通过两个方面对 CNN 的内部表示进行探究，即可视化不同层级所构建的表示空间中的补丁和可视化每个层中保留的视觉信息，进而比较不同深度的 CNN 的优势。

    Dec, 2014

  • 深度卷积神经网络分析的改进

    本论文提出了一种基于可视化分析的方法，以更好地理解、诊断和改进深度卷积神经网络，并使用一些新的算法和技术来显示神经元和神经元群之间的多个方面和交互作用。

    Apr, 2016

  • 卷积神经网络中学习特征可视化的分类和库

    本文主要归纳了卷积神经网络的三大可视化方法及其实现，介绍了 FeatureVis 工具库对中间层特征的理解，以及分析网络的失败案例，并提供了术语为研究者提供了方便。

    Jun, 2016

  • 感知可视化：透过深度神经网络的视角看世界

    该论文的研究内容主要涵盖了人工智能、深度神经网络、可解释 AI、视知觉技术以及深度模型的调试等领域。论文提出的 Perception Visualization 技术通过可视化深度模型对于输入图像的感知来解释模型预测结果，研究发现人类能够更好地理解和预测系统决策，从而使深度模型的调试和部署更加可靠。

    Apr, 2022

  • 通过网络剖析解释深度视觉表示

    本研究介绍了 Network Dissection 方法，通过为深度视觉表示的单元提供标签来解释网络。该方法量化了 CNN 表示的可解释性，通过评估单个隐藏单元和一组视觉语义概念之间的对齐来识别最佳对齐，认定单位为人类可解释标签。研究发现，深度网络是比预期更加透明和可解释的，并且可用于提供 CNN 对图像的解释预测，以增强其可解释性，这是深度神经网络的重要属性，提供了对其分层结构的新的洞见。

    Nov, 2017

  • 深度卷积神经网络最近的架构调查

    本文从深度卷积神经网络的内在分类入手，将现有研究成果归纳为七大类，即空间利用、深度、多路径、宽度、特征图利用、通道增强和注意力，同时介绍 CNN 组件的基础理解、当前挑战和应用领域。

    Jan, 2019

  • 卷积神经网络作为视觉系统模型：过去、现在和未来

    本综述介绍了卷积神经网络（CNN）在计算神经科学中作为良好模型的特征，以及这些模型如何在理解和实验生物视觉方面提供启示，并讨论了在基本物体识别之外的视觉研究中使用 CNN 的新兴机会。

    Jan, 2020

  • 卷积神经网络内部探究：图像分类模型和显著性地图的可视化

    该论文研究了使用深度卷积网络 (ConvNets) 学习的图像分类模型的可视化，提出了两种基于计算类别分数相对于输入图像的梯度的可视化技术，能够最大化类别得分或计算类别显著图以进行对象分割，最后建立起梯度卷积网络可视化方法和反卷积网络之间的联系。

    Dec, 2013