使用矢量化条件神经场模型（VCNeFs），并结合注意力机制，通过并行计算多个时空查询点的解决方案并对其依赖关系进行建模，解决了 Transformer 模型在求解偏微分方程方面的问题，并具有优于现有机器学习模型的竞争力。

Jun, 2024

我们提出了基于交叉注意力变换器的等变神经场，其中神经场被条件变量以及几何条件变量所控制，从而实现了从潜变量到场的等变解码。我们的等变方法具有可调整性，当神经场发生变换时，潜变量也相应地表示变换，反之亦然。这种等变关系确保了潜变量能够 (1) 忠实地表示几何模式，从而实现潜空间中的几何推理，(2) 在空间上相似的模式之间共享权重，从而实现对数据集的高效学习。通过分类实验验证了这些主要特性，并与其他非等变的神经场方法进行了对比。我们进一步通过展示独特的局部场编辑属性验证了等变神经场的潜在能力。

Jun, 2024

提出了一种新的数据驱动方法 DINo 来模拟 PDE 流场，通过 Implicit Neural Representations 在小的潜空间中独立嵌入空间观测数据，在由学习 ODE 驱动的时间中灵活处理时间和空间。DINo 可以在任意时间和空间位置外推，并且可以从稀疏的不规则网格或流形中学习，在测试时，可以推广到新的网格或分辨率。该方法在代表性 PDE 系统上的各种极具挑战的泛化场景中优于替代的神经 PDE 预测模型。

Sep, 2022

我们介绍了一种新颖的网格无关模型，用于从具有噪声和部分观测的不规则时空网格中学习偏微分方程。我们提出了一种空时连续潜在神经偏微分方程模型，具有高效的概率框架和新颖的编码器设计，以提高数据效率和网格独立性。潜在状态动态由一个将格点法和线法结合的偏微分方程模型来控制。我们采用分摊变分推断进行近似后验估计，并利用多射击技术来提高训练速度和稳定性。我们的模型在复杂的合成和真实世界数据集上展示了最先进的性能，克服了以前方法的局限，有效处理部分观测数据。该模型优于最近的方法，显示了推进数据驱动的偏微分方程建模的潜力，并能够对复杂的部分观测动态过程进行稳健、网格无关的建模。

Jul, 2023

本文提出了一种用于任意分布的点的时空预测的新方法，该模型可以利用偏微分方程来推导数据动态的连续时间模型，通过有限元方法，在空间域的网格化中估计未知动态对每个单元格的瞬时影响，我们的模型可以通过假设方程的形式来将先前知识纳入其中，并从对流方程导出一个运输变体，该模型对比基准模型，表现了更好的海面温度和气体流量预测的转移性能。此外，我们的模型具有独特的可解释性。

Mar, 2022

本研究使用多向量场与 Clifford 卷积、Clifford Fourier 变换相结合的方法来加速神经 PDE 代理，取得了比常规方法更好的预测效果。

Sep, 2022

该论文提出了一种新的神经算子，通过直接在傅里叶空间中参数化积分核，实现了对偏微分方程的求解，并在 Burgers' equation、Darcy 流和 Navier-Stokes 方程等测试中展现了高准确率和比传统方法高三个数量级的速度。

Oct, 2020

使用 Transformer 神经网络结构学习物理系统的动力学，混合了卷积自编码器学习的空间模式。模型在预测 Navier-Stokes 方程的时间演化方面取得了与 Fourier Neural Operator（FNO）和 OFormer、Galerkin Transformer 两种基于 Transformer 的神经算子相当或更好的结果。

Nov, 2023

用于动态逆问题的图像重建：高度欠采样数据的图像重建是一个重大挑战，现有的变分方法和神经场方法被应用于改善图像质量并引入时间正则化，本文研究并展示了在 2D + 时间计算机断层扫描中引入显式的基于偏微分方程的运动正则化的好处，并比较了神经场与基于网格求解器的性能差异。

Jun, 2024

利用神经网络在粗粒化离散空间中学习系统的动力学，并通过降维简化了时间模型的训练过程，同时展示了与在全序空间上操作的神经 PDE 求解器相比，该方法具有竞争力的准确性和效率。

Feb, 2024