在黎曼流形上等变传递神经网络的几何洞察

Oct, 2023

在黎曼流形上等变传递神经网络的几何洞察

A Geometric Insight into Equivariant Message Passing Neural Networks on Riemannian Manifolds

Ilyes Batatia

TL;DR该研究论文提出了在黎曼流形上进行等变消息传递的几何视角，利用坐标无关的特征场表示黎曼流形上的数值特征，并通过优化特征空间的度量来最优地保留主丛的原始度量，从而得到与向量丛相关的等变扩散过程，进而提出了一种新的等变图神经网络框架，推广了 ACE 和 MACE 框架到黎曼流形上的数据。

Abstract

This work proposes a geometric insight into equivariant message passing on riemannian manifolds. As previously proposed, numerical features on Riemannian manifolds are represented as →

equivariant message passing riemannian manifolds coordinate-independent feature fields equivariant embedding diffusion process

发现论文，激发创造

流形 GCN: 基于扩散的流形值图卷积神经网络

基于黎曼流形的图神经网络模型中，我们提出了两个关键的图神经网络层。第一个是扩散层，其基于流形值图扩散方程，适用于任意数量节点和图的连通模式。第二个是切线多层感知机层，借鉴了向量神经元框架的思想，并在一般的情境中应用。这两个层在节点排列和特征流形的等变性方面表现出非常好的性能。在合成数据和海马右侧三角网格对阿尔茨海默病分类的数值实例中，我们的模型均取得了非常好的性能。

Jan, 2024

等变流形神经 ODE 和微分不变量

本文提出了一种几何学框架，用于分析基于 Lie 群的多样性流形神经常微分方程（NODEs）对对称数据的建模能力，并提出了用于对称性概率场中的通用型等效 NODEs.。

Jan, 2024

等变流形流

本文提出了基于等变流形流的手段，学习任意流形上的对称不变分布，以应对先前机器学习模型所忽略的对称性特征，且在量子场论中应用其学习标准规范密度的效果显著。

Jul, 2021

深度神经网络的奇异黎曼几何方法 I. 理论基础

本论文研究基于 Riemannian 几何的新方法，探索深度神经网络在流形之间的映射及其导致的结构，指出其 pullbacks 在其他流形上生成了诱导偏度量空间的退化 Riemann 度量，给出了这种映射的理论性质，并在实用神经网络中应用其几何框架

Dec, 2021

扩展黎曼扩散模型

基于黎曼流模型，通过改进近似方法和利用对称空间，我们能够在高维度上学习分布并得到明显改进，包括模拟非平凡流形上的 QCD 密度并对高维超球上的学习嵌入进行对比实验。

Oct, 2023

基于流形度量学习的领域自适应统一框架

通过利用统计流形的曲率黎曼几何，我们提出了一种新的域自适应框架，该框架可以整合标记源域和未标记目标域之间的几何和统计差异，从而实现源到目标的转移。

Apr, 2018

计算可行的黎曼流形用于图嵌入

本研究探索了在借助矩阵流形学习和优化图嵌入的情况下，如何在曲线里曼尼流形中提高图像嵌入的表现。我们的实验结果证明，在各种衡量不同图形属性的指标基础上，我们通常优于基于超球体和椭球嵌入的欧几里得嵌入，从而为非欧几里得句子嵌入在机器学习流水线中的优势提供了新的证据。

Feb, 2020

G 不变扩散映射

本文研究了从连续矩阵群操作下闭合的流形采样的数据嵌入问题，提出并证明了特定矩阵的特征向量与群的幺模表示元素的张量积可导出表征群作用的扩散映射，该方法在聚类和配准数据点方面表现出色。

Jun, 2023

克利福德群等变单纯消息传递网络

我们介绍了 Clifford Group 等变成分维消息传递网络，这是一种用于 simplicial 复合体上的可操控 E (n)- 等变消息传递的方法。实验结果表明，我们的方法能够在各种几何任务中优于等变和 simplicial 图神经网络。

Feb, 2024

坐标无关卷积网络 -- 黎曼流形上的等变同构和规范卷积

该研究旨在为卷积神经网络设计一种与坐标系选择无关的卷积算法，在非欧几里得流形上实现平移不变性的同时，阐明了基于纤维丛的坐标无关卷积算法在欧几里得流形、球面、和一般曲面上的应用。

Jun, 2021