深度神经网络的奇异黎曼几何方法 III. 分段可微层与 $n$ 维类的随机漫步

Apr, 2024

深度神经网络的奇异黎曼几何方法 III. 分段可微层与 $n$ 维类的随机漫步

A singular Riemannian Geometry Approach to Deep Neural Networks III. Piecewise Differentiable Layers and Random Walks on $n$-dimensional Classes

PDF

Alessandro Benfenati, Alessio Marta

TL;DR神经网络在生活中起着至关重要的作用，最现代的生成模型能够取得令人印象深刻的结果。本文将几何框架应用于研究神经网络，探讨卷积、残差和递归神经网络，以及非可微激活函数的情况，并通过图像分类和热力学问题的数值实验来说明研究结果。

Abstract

neural networks are playing a crucial role in everyday life, with the most modern generative models able to achieve impressive results. Nonetheless, their functioning is still not very clear, and several strategi

neural networks generative models riemannian geometry activation functions numerical experiments

发现论文，激发创造

深度神经网络的奇异黎曼几何方法 I. 理论基础

本论文研究基于 Riemannian 几何的新方法，探索深度神经网络在流形之间的映射及其导致的结构，指出其 pullbacks 在其他流形上生成了诱导偏度量空间的退化 Riemann 度量，给出了这种映射的理论性质，并在实用神经网络中应用其几何框架

Dec, 2021

黎曼残差神经网络

本研究通过将残差神经网络（ResNet）推广至广义黎曼流形，从几何角度提供了一种方法，用以解决在图结构和自然科学中遇到的具有层次结构或流形值数据的学习问题。实验结果表明，与已有的针对双曲空间和对称正定矩阵流形进行学习的流形神经网络相比，我们的黎曼流形残差神经网络在相关测试指标和训练动态方面都表现出更好的性能。

Oct, 2023

对称正定矩阵流形上的统计递归模型

本文研究了基于 Riemann 流形的时间序列测量数据的统计循环网络模型，通过有效算法和严格分析统计性质，证明了其与现有方法相比表现相当并参数更少，同时在大脑成像的统计分析任务中得到了应用。

May, 2018

深度学习作为 Ricci 流

深度神经网络经过一系列几何和拓扑简化来进行分类任务，而这与 Hamilton 的 Ricci 流在微分几何中平滑曲率以识别拓扑结构的过程存在对应关系。通过构建一个计算框架来量化数据通过 DNN 的不同层时发生的几何变化，我们展示了全局 Ricci 网络流与 DNN 的准确性相关，并且对深度和宽度无关，也适用于不同的数据集。这些发现推动了将微分几何和离散几何工具应用于深度学习解释性问题。

Apr, 2024

一种奇异的黎曼几何方法来处理深度神经网络 II - 对 1 维等价类的重构

本文结合奇异黎曼几何对深度神经网络进行了研究，提出了构建输入点等价类的方法，它为新合成数据的生成提供了途径，并能提供分类器误判原因的洞察。

Dec, 2021

神经网络的黎曼测度 II：循环网络和学习符号数据序列

该研究使用黎曼度量上的梯度上升法作为 RNN 的训练程序，实现了对文本的结构的有效捕捉。

Jun, 2013

深度生成模型的黎曼几何

研究了深度生成模型所学习的流形的黎曼几何，并提出了计算测地线和沿流形路径平行传递切向量的算法，发现这些模型学习的流形近似于零曲率，并探讨了这种现象的实际影响。

Nov, 2017

使用深度神经网络学习不变的黎曼几何表征

本文提出了一种面向流形训练深度神经网络的通用框架，利用切空间和指数映射，将最终输出元素在 Riemann 流形上的深度神经网络的训练问题转化为当前深度学习研究的问题，在多类图像分类和人脸图像回归上显示出改进后的性能。

Aug, 2017

几何深度学习：网格、群、图、测地线和规范

通过统一的几何原理，深度学习可以更好地揭示基本规律，提供数学框架来研究卷积神经网络、循环神经网络、图神经网络和变压器网络等神经网络，且可以将物理学知识结合到神经网络结构中，从而提供了未来神经网络结构的原则性方法。

Apr, 2021

流形 GCN: 基于扩散的流形值图卷积神经网络

基于黎曼流形的图神经网络模型中，我们提出了两个关键的图神经网络层。第一个是扩散层，其基于流形值图扩散方程，适用于任意数量节点和图的连通模式。第二个是切线多层感知机层，借鉴了向量神经元框架的思想，并在一般的情境中应用。这两个层在节点排列和特征流形的等变性方面表现出非常好的性能。在合成数据和海马右侧三角网格对阿尔茨海默病分类的数值实例中，我们的模型均取得了非常好的性能。

Jan, 2024