May, 2024

应用于 PDE 代理的柔性 SE (2) 图神经网络

PDF
TL;DR本文提出了一种新颖的方法，构建与 2D 旋转和平移等变的图神经网络，并将它们作为非格网域上的 PDE 替代物。我们展示了将表示与主轴对齐的效果，使我们能够避开许多约束，同时保持 SE (2) 等变性。通过将我们的模型应用于流体流动模拟并针对非等变模型进行全面评估，我们证明在数据效率和准确性方面取得了显著进展。
graph neural networks2d rotationstranslationspde surrogatesfluid flow simulations
发现论文，激发创造
  • 基于粒子的流体力学问题的 E ($3$) 等变图神经网络

    采用等变图神经网络比其非等变神经网络在动态交互模型中能够更准确地学习流体力学系统的运动，并发现等变模型可以对湍流流量进行粗粒化建模和参数推广。

    Mar, 2023

  • 基于 PDE 的群等变卷积神经网络

    本研究提出了一种基于偏微分方程的框架，该框架可以将几何意义上的 PDE 系数作为网络层的可训练权重，从而在同一设计中具有内置的旋转和转化等几何对称性，并通过实验证明了该框架可以在深度学习图像应用中显著提高性能.

    Jan, 2020

  • E (n) 等变图神经网络

    本文介绍了一种新的模型来学习具有等变性的图神经网络，称为 EGNN，此方法不需要在中间层中计算昂贵的高阶表示，同时具有竞争力或更好的性能，在 3 维空间等变性上具有比现有方法更大的伸缩性，并在动态系统建模，图自编码器中的表征学习和预测分子性质方面证明了其有效性。

    Feb, 2021

  • 具有完整局部参考系的 SE (3) 等变图神经网络

    本文提出了一种构建 SE (3) 等变图神经网络的框架，该框架可以在保证性能的前提下实现计算效率的提升，并在牛顿力学建模和平衡分子构型生成两个任务中展示了优异的性能。

    Oct, 2021

  • PDE-CNNs：公理推导及应用

    PDE-CNNs, a variant of PDE-based Group Convolutional Neural Networks, offer fewer parameters, better performance, and data efficiency compared to CNNs, while utilizing semifield-valued signals for geometric interpretability.

    Mar, 2024

  • 几何和物理量改进 E (3) 等变消息传递

    我们介绍了可以将位置、力、速度或旋转等协变信息纳入计算物理和化学任务的可旋转 E (3) 等变图神经网络（SEGNNs），该模型能够通过可旋转 MLPs 将几何和物理信息纳入信息和更新函数，我们通过等变非线性卷积的镜头讨论了我们和相关工作，证明了我们的方法在计算物理和化学的几个任务中是有效的。

    Oct, 2021

  • 使用 E (3)- 等变图神经网络学习拉格朗日流体力学

    我们展示了等变图神经网络在工程系统机器学习领域具有优于非等变模型的学习精度，并且我们发现使用我们提出的历史嵌入方法来训练等变模型可以学习到更加准确的物理交互。

    May, 2023

  • 通过预处理的图扰动实现可扩展的表达能力

    图神经网络成为分析图结构数据的主要方法，但是传统的图神经网络的表达能力和泛化能力有局限性，因此引发了更加表达力和计算复杂性的方法的发展。为了解决规模性问题，提出了经过预处理图扰动的可扩展表达模型（SE2P），该模型提供了可灵活配置的四种配置类来实现可扩展性和泛化性的平衡，通过在实验中与各种最先进的基准模型进行对比，结果表明在选定的 SE2P 配置下，该模型可以提高泛化能力并实现高达 8 倍的速度改进。

    Jun, 2024

  • SE (3) 等变增强耦合流

    通过在附加的扩充维度上执行坐标分割，本文提出了一种保持 SE (3) 和排列等变性的耦合流，能够快速采样和密度评估，并可用于产生对目标分布的期望的无偏估计。同时，本文显示该流模型在相同应用上比等变连续归一化流快两个数量级，并首次成功学习仅通过对原子的笛卡尔位置进行建模从而获得丙氨酸二肽的玻尔兹曼分布。最后，本文展示了该流模型可以通过仅使用粒子系统的能量函数在 DW4 和 LJ13 粒子系统的玻尔兹曼分布上进行近似采样。

    Aug, 2023

  • 用于学习神经网络等变表示的图神经网络

    本文提出了一种将神经网络表示为参数计算图的方法，借助图神经网络和 transformers 来保持置换对称性，并展示了该方法在多个任务中的有效性。

    Mar, 2024