神经偏微分方程求解器的主动学习
这篇研究论文研究了通过机器学习方法发现复杂修正函数来提高解决偏微分方程数值误差的准确性,发现将求解器集成到训练中的方法比以往的学习方法更有效,文章还强调了不同可微分物理网络在广泛的PDEs中的性能表现。
Jun, 2020
该研究提出了一种新的基于深度学习的神经Galerkin方法,用于数值求解高维偏微分方程。该方法可以自适应地采集新的训练数据,以实现在高维空间中训练深度神经网络,从而成功地模拟了许多变量的系统中的波动和相互作用。
Mar, 2022
提出了一种名为LE-PDE的简单,快速且可扩展的方法,通过学习局部动态演化的全局表示,并使用已学习的潜在演化模型在潜空间中进行演化,使得PDEs的模拟和反问题求解加速,通过1D和2D方程的测试结果表明,相比于现有的深度学习模型和其他强基线的方法,最多可达到128倍的更新尺寸减少和15倍的速度提升,同时精度仍然具有竞争力。
Jun, 2022
本研究提出了一种基于科学机器学习(SciML)的渠道关注机制导向的偏微分方程(PDE)参数嵌入(CAPE)组件来实现神经替代模型,以及一种简单而有效的课程学习策略,通过流畅的过渡学习使得这些神经替代模型能够适应未见过的PDE参数,并在常见的PDE基准测试中进行了实验验证,获得了一致且显著的改进,并在推断时间和参数计数方面展现了CAPE的几个优点。
Apr, 2023
该研究论文介绍了一种名为 CORAL 的新方法,利用基于坐标的网络来解决常规几何图形上的偏微分方程问题,并展示了其在不同分辨率下的稳健表现。
Jun, 2023
近年来,神经网络应用于求解偏微分方程,作为传统数值方法的替代品,这在这个有百年历史的数学领域中被认为是潜在的范式转变。然而,从实际应用的角度来看,计算成本仍然是一个重要的瓶颈。在神经PDE求解器中,我们采用了最先进的量化方法来降低计算成本的潜力。我们展示了在保持性能的同时,通过量化网络权重和激活可以成功降低推理的计算成本。我们在四个标准PDE数据集和三个网络架构上的结果表明,量化感知训练适用于各种设置和三个数量级的浮点运算。最后,我们通过实验证明,只有引入量化技术,才能几乎总是实现计算成本与性能之间的帕累托最优。
Aug, 2023
通过机器学习方法和物理领域专业见解相结合,解决基于偏微分方程的科学问题在近年来取得了很大的进展。然而,这些方法仍然需要大量的偏微分方程数据。为了提高数据效率,我们设计了无监督的预训练和上下文学习方法用于偏微分方程算子学习,通过重构为代理任务的无标签偏微分方程数据对神经算子进行预训练。为了提高超出分布的性能,我们进一步辅助神经算子以灵活地利用上下文学习方法,而无需额外的训练成本或设计。对多种偏微分方程进行的大量实证评估表明我们的方法具有高度的数据效率、更好的泛化性能,甚至胜过传统的预训练模型。
Feb, 2024
利用神经网络在粗粒化离散空间中学习系统的动力学,并通过降维简化了时间模型的训练过程,同时展示了与在全序空间上操作的神经PDE求解器相比,该方法具有竞争力的准确性和效率。
Feb, 2024
基于学习的偏微分方程(PDE)控制的学习环境和强化学习算法,通过引入三个基础性的PDE问题,降低了数据驱动控制领域中学习PDE控制的门槛,并在稳定性方面取得了进展,虽然代价较高。
May, 2024
提出了物理感知神经隐式求解器(PANIS),这是一种新颖的数据驱动框架,用于学习参数化的偏微分方程(PDE)的代理解。它由一个概率性的学习目标组成,在此目标中,使用加权残差来探测PDE并提供源数据,而实际的PDE无需解决。与之结合的是一种物理感知隐式求解器,它由原始PDE的一个粗糙、离散化版本组成,为高维问题提供必要的信息瓶颈,并在分布不同的情况下实现泛化(例如,不同的边界条件)。演示了在随机异质材料的背景下其能力,在该背景下输入参数表示材料的微观结构。将该框架扩展到多尺度问题,并展示了可以学习到有效(均质化)解的代理且无需解决原问题。此外,还演示了如何适应和泛化几种现有的学习目标和架构,同时产生能够量化预测不确定性的概率性代理解。
May, 2024