几何和物理量改进 E (3) 等变消息传递
通过创造物理系统的 3D 多体点云,我们提出了一种新型的基于等变矩阵乘积态 (MPS) 的消息传递策略,有效地建模复杂的多体关系并捕捉了几何图中的对称性,超越了现有的几何图神经网络的平均场近似,并在预测经典牛顿系统和量子张量哈密顿矩阵等基准任务上验证了其卓越的准确性,堪称参数化几何张量网络的创新应用。
Jan, 2024
本文提出了一种卷积网络,它对刚体运动具有等变性。使用 3D 欧几里得空间上的标量场、向量场和张量场来表示数据,并使用等变卷积在这些表示之间映射。实验结果验证了 3D Steerable CNN 对氨基酸倾向预测和蛋白质结构分类等问题的有效性,这些问题均具有 SE(3)对称性。
Jul, 2018
基于均匀空间理论,我们得出了在灵活的消息传递框架中使用的几何最优边属性,将卷积网络中的权重共享定义为在应该等同处理的点对上共享消息函数的共享点对的等价类,并导出能够唯一标识这些等价类的属性。我们通过在处理 3D 点云时开发了一种高效的等变群卷积网络来应用这一理论。在三个不同的基准测试中,即原子间势能预测、N 体系统轨迹预测和通过等变扩散模型生成分子,我们以准确性和速度方面达到了最先进的结果。
Oct, 2023
本研究论文探讨卷积神经网络在对称群中的应用,提出了群等变神经网络的概念和架构,以及使用多种层和滤波器的方法,为对称群的表示和胶囊的细节做出了数学分析。
Jan, 2023
本文介绍了一种新的模型来学习具有等变性的图神经网络,称为 EGNN,此方法不需要在中间层中计算昂贵的高阶表示,同时具有竞争力或更好的性能,在 3 维空间等变性上具有比现有方法更大的伸缩性,并在动态系统建模,图自编码器中的表征学习和预测分子性质方面证明了其有效性。
Feb, 2021
采用等变图神经网络比其非等变神经网络在动态交互模型中能够更准确地学习流体力学系统的运动,并发现等变模型可以对湍流流量进行粗粒化建模和参数推广。
Mar, 2023
本研究通过测试几种基于 Clifford 多矢量的新颖消息传递图神经网络(GNNs),旨在解决当前大多数对 $O (n)$ 或 $SO (n)$ 等等变换具有等变性的深度学习模型在处理标量信息时效果较好,但计算复杂度较高的问题。我们的方法利用了高效的不变标量特征,并同时在多矢量表示上执行表达性学习,特别是通过使用等变的几何乘积算子。通过整合这些要素,我们的方法在 N-Body 模拟任务和蛋白质去噪任务上优于已建立的高效基准模型,同时保持高效性。特别是,在 N-body 数据集上,我们的方法的误差推动到 0.0035(平均 3 次运行);比最近的方法提升了 8%。我们的实现在 Github 上提供。
Jun, 2024
本文提出了一种基于离散等变的图神经网络(DEGNN),通过将几何特征转化为排列不变嵌入,实现相应离散点群的等变消息传递,从而提高对未观测到的对称动力学的表示能力和泛化性能。在各种物理动力学中,DEGNN 相较于现有的方法具有显著的优越性,并可以以较少的数据进行学习,并且可以跨领域进行泛化,如未观测到的方向。
Jun, 2024
本文提出了一个用于学习来自 3D 点云的 SE (3)- 等变特征的卷积结构。它将 KPConv(一种广泛用于处理点云数据的卷积形式)视为等变版本。通过组合群卷积和商表示,我们实现了一个简单,轻量级,快速的设计,能与现有的任务特定点云学习管道集成,同时在各种任务中实现了可比较或更优的性能,消耗更少的内存和运行速度更快。通过实验,我们展示了该方法可以促进点云等变特征学习在实际应用中的采用并激发未来应用的发展。
Jun, 2022
e3nn 是一种通用的框架,用于创建 E (3) 可变换的可训练函数,操作对象为描述三维系统的几何和几何张量,并能运用核心的张量积类和球谐函数来构建复杂的模块,例如卷积和注意力机制,可用于高效地处理张量场网络,三维中的可定向卷积神经网络,Clebsch-Gordan Networks,SE (3) 变换和其他 E (3) 可变换网络。
Jul, 2022