对称正定矩阵流形上的统计递归模型
我们提出了一种使用精神病医学数据进行 Alzheimer 疾病组差异分析的卷积神经网络框架,并介绍了如何在计算过程中考虑 Riemann 流形结构。
Oct, 2019
本研究通过将残差神经网络(ResNet)推广至广义黎曼流形,从几何角度提供了一种方法,用以解决在图结构和自然科学中遇到的具有层次结构或流形值数据的学习问题。实验结果表明,与已有的针对双曲空间和对称正定矩阵流形进行学习的流形神经网络相比,我们的黎曼流形残差神经网络在相关测试指标和训练动态方面都表现出更好的性能。
Oct, 2023
这篇论文提出了一个以卷积神经网络为基础的统一框架,以推广 CNN 的应用领域到非欧几里得结构的数据,如图形和流形,并且发现这个框架可以在图像、图形和三维形状分析的标准测试中取得更好的性能。
Nov, 2016
本文提出了一种面向流形训练深度神经网络的通用框架,利用切空间和指数映射,将最终输出元素在 Riemann 流形上的深度神经网络的训练问题转化为当前深度学习研究的问题,在多类图像分类和人脸图像回归上显示出改进后的性能。
Aug, 2017
在 Riemann 流形上的深度神经网络已经在各个应用领域受到越来越多的关注,其中包括球面和双曲面流形上的 DNN 在计算机视觉和自然语言处理任务中的广泛应用。而球面和双曲面流形能够应用双翼运算和双翼向量空间的丰富代数结构,为成功的深度神经网络在这些流形上的推广提供了基础。最近的一些研究表明,双翼运算和双翼向量空间理论中的许多概念也能够推广到矩阵流形,比如对称正定和 Grassmann 流形。基于这些工作,我们设计了用于对称正定流形上的全连接和卷积层,并在 Grassmann 投影视角上提出了一种使用 Grassmann 对数映射进行反向传播的方法。我们在人类动作识别和节点分类任务中验证了这种方法的有效性。
May, 2024
本论文研究基于 Riemannian 几何的新方法,探索深度神经网络在流形之间的映射及其导致的结构,指出其 pullbacks 在其他流形上生成了诱导偏度量空间的退化 Riemann 度量,给出了这种映射的理论性质,并在实用神经网络中应用其几何框架
Dec, 2021
基于黎曼流形的图神经网络模型中,我们提出了两个关键的图神经网络层。第一个是扩散层,其基于流形值图扩散方程,适用于任意数量节点和图的连通模式。第二个是切线多层感知机层,借鉴了向量神经元框架的思想,并在一般的情境中应用。这两个层在节点排列和特征流形的等变性方面表现出非常好的性能。在合成数据和海马右侧三角网格对阿尔茨海默病分类的数值实例中,我们的模型均取得了非常好的性能。
Jan, 2024
神经网络在生活中起着至关重要的作用,最现代的生成模型能够取得令人印象深刻的结果。本文将几何框架应用于研究神经网络,探讨卷积、残差和递归神经网络,以及非可微激活函数的情况,并通过图像分类和热力学问题的数值实验来说明研究结果。
Apr, 2024