对称图神经网络用于带电粒子跟踪
将诱导偏差引入机器学习模型是机器学习研究的一个活动领域,特别是当机器学习模型被应用于关于物理世界的数据时。本文从相关的等变网络的文献中汲取灵感,通过使用真实世界的粒子物理重建任务作为评估测试平台,全面评价了等变图神经网络的提议的好处。我们证明了许多通常与等变网络相关联的理论优点在实际系统中可能不成立,并介绍了未来研究的有吸引力的方向,这将有利于机器学习的科学理论和物理应用。
Nov, 2023
本文提出了一种新颖的基础方法,称为 Subequivariant Graph Neural Network,并解决了在物理动力学中如何将物理定律所包含的对称性协同模型设计以及模型如何处理物理世界中不同形状、尺寸和属性的物体等问题。该模型在 8 个场景的 Physion 数据集中,平均接触预测准确率有超过 3%的提高,在 RigidFall 数据集中有 2 倍的低回滚均方误差,并展现出强大的泛化能力和数据效率。
Oct, 2022
本研究通过测试几种基于 Clifford 多矢量的新颖消息传递图神经网络(GNNs),旨在解决当前大多数对 $O (n)$ 或 $SO (n)$ 等等变换具有等变性的深度学习模型在处理标量信息时效果较好,但计算复杂度较高的问题。我们的方法利用了高效的不变标量特征,并同时在多矢量表示上执行表达性学习,特别是通过使用等变的几何乘积算子。通过整合这些要素,我们的方法在 N-Body 模拟任务和蛋白质去噪任务上优于已建立的高效基准模型,同时保持高效性。特别是,在 N-body 数据集上,我们的方法的误差推动到 0.0035(平均 3 次运行);比最近的方法提升了 8%。我们的实现在 Github 上提供。
Jun, 2024
本文提出了一种基于离散等变的图神经网络(DEGNN),通过将几何特征转化为排列不变嵌入,实现相应离散点群的等变消息传递,从而提高对未观测到的对称动力学的表示能力和泛化性能。在各种物理动力学中,DEGNN 相较于现有的方法具有显著的优越性,并可以以较少的数据进行学习,并且可以跨领域进行泛化,如未观测到的方向。
Jun, 2024
本论文提出了一种新的深度学习模型,称为 LorentzNet,用于粒子物理中的 Jet 标注问题,该模型维持了洛伦兹对称性,通过高效的闵可夫斯基点积注意力进行信息传递,在两个代表性的 Jet 标注引擎上进行的实验表明,LorentzNet 表现出最佳性能并显著改善了现有的最先进算法。
Jan, 2022
采用等变图神经网络比其非等变神经网络在动态交互模型中能够更准确地学习流体力学系统的运动,并发现等变模型可以对湍流流量进行粗粒化建模和参数推广。
Mar, 2023
图神经网络 (GNNs) 和欧几里德卷积神经网络 (CNNs) 的等变性对称性不同,本篇论文侧重于探讨 GNNs 的主动对称性,通过对信号在固定图上的支持进行学习,将近似对称性形式化为图粗化,提出了一个偏差 - 方差公式来量化损失表达性与学习估计的规则性之间的权衡,实验证明,选择比图自同构群大但小于全排列群的适当大的群可以达到最佳泛化性能。
Aug, 2023