Tensor Frames -- 如何使任何消息传递网络是等变的

May, 2024

Tensor Frames -- 如何使任何消息传递网络是等变的

Tensor Frames -- How To Make Any Message Passing Network Equivariant

Peter Lippmann, Gerrit Gerhartz, Roman Remme, Fred A. Hamprecht

TL;DR建立等变消息传递框架，实现几何深度学习中的任意维度欧几里得空间上的等变信息传递，通过局部坐标框架和张量对象在消息中保持几何信息一致性，并展示了 O (3) 等变性在点云架构上的优势及在法向量回归中的最新成果。

Abstract

In many applications of geometric deep learning, the choice of global coordinate frame is arbitrary, and predictions should be independent of the reference frame. In other words, the network should be equivariant with respect to rotations and reflections of the input, i.e., the transfo

geometric deep learning equivariant message passing coordinate frames tensorial objects point cloud architecture

发现论文，激发创造

具有完整局部参考系的 SE (3) 等变图神经网络

本文提出了一种构建 SE (3) 等变图神经网络的框架，该框架可以在保证性能的前提下实现计算效率的提升，并在牛顿力学建模和平衡分子构型生成两个任务中展示了优异的性能。

Oct, 2021

基于学习方向的坐标不变点云分析

本文提出了一种基于信息传递方案的新颖简单框架，通过为每个点引入方向来获得等变性，从而使点云分析更加灵活，并提供了正式的证明以表明其等变性。

Mar, 2022

使用结构消息传递构建强大且等变的图神经网络

通过在节点特征的基础上传播节点的 One-hot 编码，以学习每个节点周围的本地上下文矩阵以及保证置换等变性的消息和更新函数，我们提出了一种具有强大表达能力和等变性的消息传递框架，用于对图形网络进行建模，实验表明本模型可以更准确地预测合成数据上的图形拓扑性质，并在 ZINC 数据集的分子图回归任务中取得了最优结果。

Jun, 2020

张量场网络：旋转和平移等变神经网络在三维点云中的应用

介绍了局部等变于 3D 旋转，平移和点的排列的张量场神经网络；使用球谐函数构建滤波器，接受标量、向量和高阶张量作为输入，并在几何意义下保证输出。用于处理几何、物理和化学任务。

Feb, 2018

在黎曼流形上等变传递神经网络的几何洞察

该研究论文提出了在黎曼流形上进行等变消息传递的几何视角，利用坐标无关的特征场表示黎曼流形上的数值特征，并通过优化特征空间的度量来最优地保留主丛的原始度量，从而得到与向量丛相关的等变扩散过程，进而提出了一种新的等变图神经网络框架，推广了 ACE 和 MACE 框架到黎曼流形上的数据。

Oct, 2023

不变与等变网络设计的框架平均

介绍了一种称为框架平均的通用框架，用于使现有神经网络体系结构对新的对称性类型具有不变性或等变性。该框架建立在团体平均算子之上，并通过使用小的子集来取代整个团的平均算子，从而保证较低的计算成本。通过使用框架平均，提出了一类称为通用图神经网络（GNNs）的新模型，实现了几个应用程序（包括点云正常估计、超越 2-WL 图分离和 N 体动力学预测），并达到了所有这些基准测试的最高成绩。

Oct, 2021

基于等变性的图网络数据效率

通过引入一种新颖的图网络架构，它对于保持相邻节点距离的所有坐标嵌入的任何变换都具有等变性，特别是在 $n$- 维中具有欧几里得和共形正交群等变性，从而使得所提出的模型相对于传统图形架构更加数据高效，并且本质上配备了更好的归纳偏差。我们表明，通过少量数据的学习，我们提出的架构可以完全推广到合成问题中的未见数据，而标准模型需要更多的训练数据才能达到可比较的性能。

Jun, 2021

量子启发式的几何建模的神经网络

通过创造物理系统的 3D 多体点云，我们提出了一种新型的基于等变矩阵乘积态 (MPS) 的消息传递策略，有效地建模复杂的多体关系并捕捉了几何图中的对称性，超越了现有的几何图神经网络的平均场近似，并在预测经典牛顿系统和量子张量哈密顿矩阵等基准任务上验证了其卓越的准确性，堪称参数化几何张量网络的创新应用。

Jan, 2024

几何和物理量改进 E (3) 等变消息传递

我们介绍了可以将位置、力、速度或旋转等协变信息纳入计算物理和化学任务的可旋转 E (3) 等变图神经网络（SEGNNs），该模型能够通过可旋转 MLPs 将几何和物理信息纳入信息和更新函数，我们通过等变非线性卷积的镜头讨论了我们和相关工作，证明了我们的方法在计算物理和化学的几个任务中是有效的。

Oct, 2021

用于三维点云分析的等变点网络

本文提出了一个有效的 SE（3）网络，它是针对点云分析领域中 3D 形状对齐任务而设计的，可以利用等变特征来提高性能并解决相对较少探索的旋转等变特征对 3D 形状对齐任务的处理问题。我们采用一个新的框架 SE (3) 可分点卷积来降低计算成本，并在网络中引入一个注意力层来有效地利用等变特征的表达能力。通过广泛的研究和视觉解释，实证结果表明，我们提出的模型在各种基准测试中优于强基线。

Mar, 2021