Nov, 2023

深度神经网络中的原始空间和潜空间连接性

PDF
TL;DR本文研究了是否可以通过连续路径将同一类别的输入在原始或潜在的表征空间中连接起来，以使神经网络模型将路径上的所有点映射到相同的类别。理解神经网络如何看待自己的输入空间以及潜在空间的结构对于可解释性和鲁棒性具有价值。我们证明，在所研究的所有情况下，存在连接同类别输入的线性或非线性路径。
发现论文，激发创造
  • 神经网络作为表示空间中的路径

    深度神经网络的层次计算可以看作是在高维表示空间上的一条路径，通过度量相似性等工具可以理解和解释神经网络的训练过程，并发现不同模型之间的相似之处。

    Jun, 2022

  • 通过干预解释潜空间

    本研究通过使用干预机制，利用离散变分自编码器来转移预测类别，进而可视化任何隐藏层的编码信息和对应的被干预表示来揭示深度神经网络的隐含概念，并通过评估原始表示与被干预表示之间的差异来确定可改变类别的概念，从而提高模型的可解释性。我们在 CelebA 数据集上展示了我们方法的有效性，并展示了有偏差数据的各种可视化并提供不同的干预方法来揭示和更正偏见。

    Dec, 2021

  • 线性连通性揭示泛化策略

    使用 MNLI、QQP 和 CoLA 三个任务的文本分类模型为研究对象，发现了线性路径上增加的损失不断增加的现象，并探究了不同模型之间的泛化策略差异与损失表面几何形状之间的关系。

    May, 2022

  • 在编码神经网络潜空间中表示闭合变换路径

    本文使用生成流形模型改变自编码器的潜在空间，以适应数据中的低维流形结构并学习复杂系统的潜在动态，生成转换路径并对属于同一转换路径的样本进行分类。

    Dec, 2019

  • 深度神经网络中通路角色的理解

    通过分析经过训练的卷积神经网络（CNN），我们提出了一种算法来提取各个像素的扩散路径，以确定与目标类别相关联的输入图像中像素的位置，并且这种基于路径的表示在不同类别之间具有明显的区别。

    Feb, 2024

  • 潜在空间原型可解释性在深度神经网络中的局限性

    本文指出了原型学习中存在的一个重要缺陷：潜在空间中的相似性与输入空间中的相似性之间存在语义差距，这可能会损害可解释性。通过设计两个实验，我们在 ProtoPNet 上阐明了这个问题，并表明从业人员在实践中部署基于原型模型时应该考虑到这个缺陷。

    May, 2021

  • 语义对齐下的潜在空间翻译

    通过简单的转换，我们的研究展示了神经网络模型中学习到的表示可以在不同的预训练网络之间进行转化，从而有效地连接编码器和解码器，并实现在多模态设置下的出色分类性能。

    Nov, 2023

  • 人工神经网络中的潜在通信

    通过识别神经表示、潜在空间、潜在交流、相对表示和数据模态关键词，研究发现神经网络的潜在表示具有普适性和可重用性，可以在不同模型之间传递和转化，实现生成、分类和检索等任务，跨图像、文本、音频和图形等各种数据模态。

    Jun, 2024

  • 从砖头到桥梁：增强潜在空间通信的不变性乘积

    直接将一组不变性直接融入表示中，构建一种不变分量的产品空间，旨在解锁合并、拼接和重用不同神经模块的应用，并观察到分类和重建任务中的一致潜在相似性和下游性能改进。

    Oct, 2023

  • 神经网络之间的共享表示几何

    本文研究了神经网络架构在相同数据集上的不同训练结果之间的相关性，并使用共享响应模型证明了不同的神经网络以不同的正交变换方式编码数据的同一基础共享表示，通过 CNNs 在 CIFAR10 和 CIFAR100 上进行了实验。

    Nov, 2018