等变极限学习机快速高效预测偏微分方程
提出了一种名为 LE-PDE 的简单,快速且可扩展的方法,通过学习局部动态演化的全局表示,并使用已学习的潜在演化模型在潜空间中进行演化,使得 PDEs 的模拟和反问题求解加速,通过 1D 和 2D 方程的测试结果表明,相比于现有的深度学习模型和其他强基线的方法,最多可达到 128 倍的更新尺寸减少和 15 倍的速度提升,同时精度仍然具有竞争力。
Jun, 2022
本文介绍了一种结合了物理与机器学习的新兴领域:PDE 学习。我们提出了一种理论上保证数据效率的算法,可以从有限的输入输出数据中恢复 3D 椭圆型偏微分方程的解算子,并以极高的成功概率呈指数收敛率。
Feb, 2023
我们提出了两种基于随机神经网络解决高维偏微分方程 (PDE) 的有效方法。通过对这种类型网络的普适逼近性质的激励,这两种方法都将极限学习机 (ELM) 方法从低维扩展到高维。第一种方法中,$d$ 维度下未知解域由随机前向神经网络表示,其中隐藏层参数随机分配并固定,而输出层参数进行训练。PDE、边界 / 初值条件以及连续性条件 (对于方法的局部变量) 被施加在一组随机内部 / 边界对应点上。通过最小二乘解决其结果线性或非线性代数系统,从而得到网络参数的训练值。第二种方法通过一个基于近似理论的被约束表达式重新描述高维 PDE 问题,避免了随着维度增加而引发的 TFC 项数量的指数级增长。约束表达式中的自由域函数由随机神经网络表示,并通过类似于第一种方法的过程进行训练。我们进行了大量数值模拟,针对多个高维线性 / 非线性静态 / 动态 PDE,以展示这些方法的性能。与基于物理知识的神经网络 (PINN) 方法相比,当前方法在高维 PDEs 上既具有成本效益,又更准确。
Sep, 2023
本文综述了传统的 PDE 数值逼近方法以及近期的基于机器学习的方法,重点介绍了以神经算子为中心的关键构架,这是一种学习 PDE 解算子的新方法,与传统方法相比具有 1000 倍的计算速度优势,这些新的计算方法可以在解决许多基础和应用物理问题方面带来巨大优势。
Jan, 2023
本文介绍了使用深度学习发现复杂数据集中隐藏的偏微分方程 (包括线性和非线性方程)。通过使用测量数据进行必要的输入数据转换来实现发现过程中的坐标转换。同时,展示了用于选择特征和模型的技巧。通过本文的分析,可以发现非线性二阶偏微分方程的动力学可以由我们的深度学习算法自动准确地描述为普通微分方程。在研究更复杂的模拟时,也可以得到类似的结果。
Aug, 2018
我们提出了一种基于神经网络的元学习方法,用于高效解决偏微分方程(PDE)问题。该方法通过元学习来解决各种各样的 PDE 问题,并将这些知识用于解决新的 PDE 问题。我们使用神经网络将 PDE 问题编码成问题表示,其中,控制方程由偏导数的多项式函数的系数表示,边界条件由一组点条件对表示。我们将问题表示作为神经网络的输入来预测解决方案,通过神经网络的前向过程,我们能够高效地预测特定问题的解决方案,而无需更新模型参数。为了训练我们的模型,我们最小化在基于物理知识的神经网络框架中适应 PDE 问题时的预期误差,通过这种方式,即使解决方案未知,我们也能评估误差。我们证明了我们提出的方法在预测 PDE 问题的解决方案方面优于现有方法。
Oct, 2023
使用 Transformer 神经网络结构学习物理系统的动力学,混合了卷积自编码器学习的空间模式。模型在预测 Navier-Stokes 方程的时间演化方面取得了与 Fourier Neural Operator(FNO)和 OFormer、Galerkin Transformer 两种基于 Transformer 的神经算子相当或更好的结果。
Nov, 2023
该论文提出了一个开源在线培训框架,用于快速解决偏微分方程组,可以提高深度代理模型的数据多样性,对于 Fully connected neural networks、Fourier Neural Operator (FNO) 和 Message Passing PDE Solver 的预测准确度分别提高了 68%、16%和 7%。
Jun, 2023
本文提出了一种用于无配对输入输出观测的深度神经网络参数化的无穷维算子的学习框架,以实现对于参数 ODE/PDE 系统的精确长时间模拟,该方法虽然比传统数值解算法计算成本低,但可靠性更高且能够全局评估。
Jun, 2021
本文介绍一种新的用于解决高维金融模型中的非线性偏微分方程的方法,该方法包含非线性现象、深度神经网络和随机梯度下降类型优化过程,并通过海量数据的数值结果证明了该方法的高效性和精确性。
Sep, 2017