对等图神经网络在物理动力学学习中松弛连续约束
图神经网络 (GNNs) 和欧几里德卷积神经网络 (CNNs) 的等变性对称性不同,本篇论文侧重于探讨 GNNs 的主动对称性,通过对信号在固定图上的支持进行学习,将近似对称性形式化为图粗化,提出了一个偏差 - 方差公式来量化损失表达性与学习估计的规则性之间的权衡,实验证明,选择比图自同构群大但小于全排列群的适当大的群可以达到最佳泛化性能。
Aug, 2023
本文提出了一种新颖的基础方法,称为 Subequivariant Graph Neural Network,并解决了在物理动力学中如何将物理定律所包含的对称性协同模型设计以及模型如何处理物理世界中不同形状、尺寸和属性的物体等问题。该模型在 8 个场景的 Physion 数据集中,平均接触预测准确率有超过 3%的提高,在 RigidFall 数据集中有 2 倍的低回滚均方误差,并展现出强大的泛化能力和数据效率。
Oct, 2022
机器学习中,关于多个交互对象的关系和动态推理是一个具有挑战性的话题,我们提出了一种基于广义坐标的 Graph Mechanics Network (GMN) 方法,来隐式地表达在受限制系统中的几何约束,并在模拟系统和现实世界中进行的广泛实验证明了 GMN 相对于最先进的 GNN 在预测精度、约束满足性以及数据效率方面的优势。
Mar, 2022
本文介绍了一种新的模型来学习具有等变性的图神经网络,称为 EGNN,此方法不需要在中间层中计算昂贵的高阶表示,同时具有竞争力或更好的性能,在 3 维空间等变性上具有比现有方法更大的伸缩性,并在动态系统建模,图自编码器中的表征学习和预测分子性质方面证明了其有效性。
Feb, 2021
本研究建立了多尺度同变 GNN 模型用于预测流体流动情况,并研究了同变和不变表示方法对模型预测的影响,结果表明使用不变量可以更准确地预测长期流体流动情况且这些不变量可以通过数据驱动编码器学习。
May, 2023
将诱导偏差引入机器学习模型是机器学习研究的一个活动领域,特别是当机器学习模型被应用于关于物理世界的数据时。本文从相关的等变网络的文献中汲取灵感,通过使用真实世界的粒子物理重建任务作为评估测试平台,全面评价了等变图神经网络的提议的好处。我们证明了许多通常与等变网络相关联的理论优点在实际系统中可能不成立,并介绍了未来研究的有吸引力的方向,这将有利于机器学习的科学理论和物理应用。
Nov, 2023
我们介绍了可以将位置、力、速度或旋转等协变信息纳入计算物理和化学任务的可旋转 E (3) 等变图神经网络(SEGNNs),该模型能够通过可旋转 MLPs 将几何和物理信息纳入信息和更新函数,我们通过等变非线性卷积的镜头讨论了我们和相关工作,证明了我们的方法在计算物理和化学的几个任务中是有效的。
Oct, 2021
采用等变图神经网络比其非等变神经网络在动态交互模型中能够更准确地学习流体力学系统的运动,并发现等变模型可以对湍流流量进行粗粒化建模和参数推广。
Mar, 2023
学习表示和模拟物理系统的动力学是一个关键且具有挑战性的任务。在这篇论文中,我们将动力学模拟重新定义为时空预测任务,通过利用过去时期的轨迹来恢复非马尔科夫相互作用。我们提出了 ESTAG(等变时空注意力图网络),这是一种时空 GNN 的等变版本,用于实现我们的目标。通过设计一种新颖的等变离散傅里叶变换(EDFT)来从历史帧中提取周期模式,然后构建一个等变空间模块(ESM)来完成空间信息传递,并使用前向注意力和等变池化机制构建等变时间模块(ETM)来聚合时间信息。我们在三个实际数据集上评估了我们的模型,对应于分子级、蛋白质级和宏观级。实验结果验证了 ESTAG 相对于典型的时空 GNN 和等变 GNN 的有效性。
May, 2024