E (n) 等变拓扑神经网络
本文介绍了一种新的模型来学习具有等变性的图神经网络,称为 EGNN,此方法不需要在中间层中计算昂贵的高阶表示,同时具有竞争力或更好的性能,在 3 维空间等变性上具有比现有方法更大的伸缩性,并在动态系统建模,图自编码器中的表征学习和预测分子性质方面证明了其有效性。
Feb, 2021
通过结合拓扑神经网络(TNNs)和持久同调(PH)的方法,构建了一种广泛的框架 TopNets,扩展了 GNNs / TNNs 和 PH 在空间设置中的应用范围,提高了简单消息传递网络的表达能力,并在抗体设计、分子动力学模拟和药物属性预测等各种任务中取得了良好的性能。
Jun, 2024
Topological Deep Learning 解决复杂系统数据处理与知识提取的框架,但目前 Topological Neural Network 研究缺乏统一的符号和语言。本文提供对 TDL 可访问的介绍,并使用统一数学和图形符号比较最近发表的 TNN。通过对 TDL 领域的直观和批判性评估,提取有价值的见解,为未来发展提供激动人心的机遇。
Apr, 2023
本研究通过测试几种基于 Clifford 多矢量的新颖消息传递图神经网络(GNNs),旨在解决当前大多数对 $O (n)$ 或 $SO (n)$ 等等变换具有等变性的深度学习模型在处理标量信息时效果较好,但计算复杂度较高的问题。我们的方法利用了高效的不变标量特征,并同时在多矢量表示上执行表达性学习,特别是通过使用等变的几何乘积算子。通过整合这些要素,我们的方法在 N-Body 模拟任务和蛋白质去噪任务上优于已建立的高效基准模型,同时保持高效性。特别是,在 N-body 数据集上,我们的方法的误差推动到 0.0035(平均 3 次运行);比最近的方法提升了 8%。我们的实现在 Github 上提供。
Jun, 2024
通过创造物理系统的 3D 多体点云,我们提出了一种新型的基于等变矩阵乘积态 (MPS) 的消息传递策略,有效地建模复杂的多体关系并捕捉了几何图中的对称性,超越了现有的几何图神经网络的平均场近似,并在预测经典牛顿系统和量子张量哈密顿矩阵等基准任务上验证了其卓越的准确性,堪称参数化几何张量网络的创新应用。
Jan, 2024
图神经网络在图结构化数据的表示学习任务中具有捕捉局部和全局模式的能力,但是长程和高阶依赖性带来了挑战。为了解决此问题,该论文提出了拓扑神经网络,并引入了基于拓扑结构的消息传递机制和多元关系归纳偏置,以更好地捕捉依赖关系和设计各向异性聚合方法。此外,还介绍了增强型细胞同构网络,通过增加拓扑消息传递机制,使环形结构中的节点组之间能够直接进行交互。
Feb, 2024
本文提出了 E (n) 等变消息传递单纯形网络(EMPSNs)的新方法,可以在几何图形和点云上学习,具有旋转、平移和反射等等变性。EMPSNs 可以通过等变的方式使用高维单纯形的几何信息学习高维单纯形特征,是 E (n) 等变图神经网络的拓扑更复杂的扩展,并提供了在消息传递单纯形网络中包含几何信息的方法。结果表明,EMPSNs 可以利用两种方法的优势,相对于任一方法都有更好的性能提升。此外,结果表明,在操作高维单纯形结构时,加入几何信息可以有效防止过度平滑,适用于消息传递网络。最后,我们显示 EMPSNs 与最先进的学习几何图形的方法相当。
May, 2023
采用等变图神经网络比其非等变神经网络在动态交互模型中能够更准确地学习流体力学系统的运动,并发现等变模型可以对湍流流量进行粗粒化建模和参数推广。
Mar, 2023