Feb, 2024

深度神经网络中通路角色的理解

PDF
TL;DR通过分析经过训练的卷积神经网络（CNN），我们提出了一种算法来提取各个像素的扩散路径，以确定与目标类别相关联的输入图像中像素的位置，并且这种基于路径的表示在不同类别之间具有明显的区别。
deep neural networksconvolutional neural networkdiffusion pathwaysobject classesfeature maps
发现论文，激发创造
  • 深度神经网络揭示脑的腹侧视觉通路中神经表征复杂度的梯度

    利用深度卷积神经网络，研究人员成功地探测到哺乳动物腹侧视觉途径中逐渐增加的特定特征梯度，并将不断增加的特征复杂度映射到人类大脑，从而提供了研究大脑表示如何映射的自动化方法。最终，研究表明，在先前无法实现的精度下，深度卷积神经网络可以对人脑表示进行解码，为我们提供了更敏感的窗口观察人脑。

    Nov, 2014

  • 神经网络作为表示空间中的路径

    深度神经网络的层次计算可以看作是在高维表示空间上的一条路径，通过度量相似性等工具可以理解和解释神经网络的训练过程，并发现不同模型之间的相似之处。

    Jun, 2022

  • 卷积神经网络中关键路径精简

    通过分析卷积神经网络中的滤波器激活、梯度和可视化滤波器的功能，我们揭示了信息流的关键路径，并以其排他性的内在属性为基础，提出了一种关键路径蒸馏方法，可以有效地将卷积神经网络定制为具有更小的模型大小和更少计算量的小型网络。

    Oct, 2018

  • 基于网络特征提取的对抗性防御

    该研究提出了一种基于分解 DNN 模型到不同功能块的方法，通过将每个图像的有效路径聚合到类级别的有效路径来检测对抗性图像，从而实现更好的准确性和更广泛的适用性。

    Apr, 2019

  • 关于可迁移的神经通路的模型解释

    神经通路作为模型解释的模型主要由一组稀疏的神经元组成，它们能够提供与整个模型相同水平的预测性能。本文提出了神经通路的两个可解释性准则：（一）同类神经通路主要由与类别相关的神经元组成；（二）每个实例的神经通路稀疏度应得到最佳确定。为此，我们提出了一种名为生成类相关神经通路（GEN-CNP）的模型，该模型能够从目标模型的特征图中学习预测神经通路。我们提出从深层和浅层特征中学习类相关信息，以使同类神经通路具有高度相似性。我们进一步对 GEN-CNP 施加忠实性准则，以生成具有实例特定稀疏性的路径。我们提出将类相关神经通路转化为解释同一类别样本，并通过实验证明了它们的忠实性和可解释性。

    Sep, 2023

  • 可解释卷积神经网络的一条路径：PICNN

    该论文引入了一种新的路径来缓解卷积神经网络中滤波器和图像类之间的纠缠，通过将 CNN 的滤波器分组到类别特定的簇中，实现了更好的可解释性和较高的区分能力。

    Dec, 2023

  • 深度神经网络中个体单元的作用理解

    本文介绍了一个分析框架 —— 网络分解，通过该框架系统地识别图像分类和图像生成网络中单个隐藏单元的语义，作者使用该框架分析卷积神经网络和生成对抗网络模型并应用于理解对抗攻击和语义图像编辑。

    Sep, 2020

  • 深度神经网络的噪声稳健性分析

    本文提出一种视觉分析方法，通过比较和分析对抗和正常示例的数据路径，解释为什么对抗性示例被错误分类。使用神经网络构建和训练解决其子集选择问题，采用多层可视化来帮助研究数据路径的。

    Jan, 2020

  • 深度学习用于视觉神经假肢

    视觉途径、视觉感知、视觉编码、神经假肢和计算模型是重要研究领域。该文章介绍了视觉感知的重要性，讨论了视觉信息编码和大脑中信息组织的机制，以及如何使用计算模型来实现神经假肢并提高对于视觉编码和自然视觉的理解。

    Jan, 2024

  • 深度卷积神经网络分析的改进

    本论文提出了一种基于可视化分析的方法，以更好地理解、诊断和改进深度卷积神经网络，并使用一些新的算法和技术来显示神经元和神经元群之间的多个方面和交互作用。

    Apr, 2016