ICLROct, 2023

神经偏微分方程求解中的自回归复兴

PDF
TL;DR“Message Passing Neural PDE Solver” by Brandstetter et al. designs a graph neural network that outperforms both Fourier Neural Operator and classical PDE solvers in generalization capabilities and performance, addressing instability in autoregressive models.
发现论文，激发创造
  • 消息传递神经偏微分方程求解器

    本论文利用神经信息传递的方法，构建了一种能够解决具有多种性质的偏微分方程数值解的求解器，并提出了一种基于稳定性领域适应的方法，在 1D 和 2D 中验证其在各种流体状况下的快速、稳定和准确性能。

    Feb, 2022

  • 使用消息传递图神经网络学习时变 PDE 求解器

    通过应用图神经网络和消息传递模型，我们提出了一种有效的 PDE 求解方法，通过参数化控制方程，学习领域不变特征，构建线性 / 非线性 PDE 的准确求解器。

    Apr, 2022

  • 潜在神经 PDE 求解器：用于偏微分方程的降阶建模框架

    利用神经网络在粗粒化离散空间中学习系统的动力学，并通过降维简化了时间模型的训练过程，同时展示了与在全序空间上操作的神经 PDE 求解器相比，该方法具有竞争力的准确性和效率。

    Feb, 2024

  • 通过图神经网络和深度算子网络学习时变 PDE 以实现在不规则网格上的鲁棒性精度

    提出了 GraphDeepONet，一种基于 GNN 的自回归模型，能够适应 DeepONet 并有效地学习操作符，具有在不规则网格上预测解以及对时间依赖性 PDE 解进行时间外推的能力。对 GraphDeepONet 的普适逼近能力进行了理论分析。

    Feb, 2024

  • 作为概率神经算子的扩散模型用于恢复动力系统的未观测状态

    本研究探讨了以扩散为基础的生成模型作为偏微分方程 (PDE) 神经算子的功效。我们展示了扩散生成模型在神经算子方面具有许多有利的特性，并能够在多个真实动力系统中优于其他神经算子。此外，我们演示了概率扩散模型如何优雅地处理部分可识别的系统，通过生成对应于不同可能解的样本。

    May, 2024

  • 采用图神经算子的多尺度物理表示来近似偏微分方程解

    本论文研究了三种基于神经积分算子的多分辨率模式，并使用消息传递图神经网络进行了验证，以解决描述物理现象中的偏微分方程最具挑战性问题之一 —— 在不同尺度下表示物理信号。

    Jun, 2022

  • 以偏微分方程为基础的深度神经网络

    该论文通过偏微分方程的理论框架，提出了三种新型的 ResNet 神经网络架构，分别属于抛物线和双曲线类型的 CNN，能够提供深度学习的新算法和思路，并用数值实验证明了它们的竞争力。

    Apr, 2018

  • 使用物理感知神经网络解决反问题偏微分方程

    本文提出了一种新型的混合反向问题复合框架，将深度神经网络的高表现力与现有偏微分方程数值算法相结合，通过语义自编码器的自定义层，将计算数学、机器学习和模式识别技术融合在一起，实现了域特定知识和物理约束的综合应用，解决了大量数据中的未知字段这个问题，称之为混合反向 PDE 网络 (BiPDE 网络)，并在一维和二维空间中的泊松问题中，以及一维的时间依赖和非线性 Burgers 方程中，应用和证明了其可行性和噪声鲁棒性。

    Jan, 2020

  • 多尺度神经算子求解时间无关偏微分方程

    我们提出了一种新颖的图重连接技术，用于解决在大网格上的时态独立的偏微分方程的数据驱动神经 PDE 求解器所面临的一些挑战，如集成不同尺度和不规则网格上的信息。我们在三个数据集上的实验表明，基于 GNN 的方法为不规则网格上的时态独立的偏微分方程设定了新的性能标准。最后，我们展示了我们的图重连接策略提升了基线方法的性能，在其中一个任务中取得了最先进的结果。

    Nov, 2023

  • 使用 Transformer 进行偏微分方程的多尺度时间步进

    使用 Transformer 神经网络结构学习物理系统的动力学，混合了卷积自编码器学习的空间模式。模型在预测 Navier-Stokes 方程的时间演化方面取得了与 Fourier Neural Operator（FNO）和 OFormer、Galerkin Transformer 两种基于 Transformer 的神经算子相当或更好的结果。

    Nov, 2023