Oct, 2023

基于神经模拟器的无梯度在线学习亚网尺度动力学

PDF
TL;DR在本文中，我们提出了一种通用算法，用于在线训练基于机器学习的子网参数化，即使用非可微数值求解器的 $ extit {a posteriori}$ loss 函数。所提出的方法利用神经仿真器来训练减少状态空间求解器的近似，然后通过时间积分步骤传播梯度。该算法能够在不计算原始求解器的梯度的情况下恢复大部分在线策略的好处。实验证明，分别使用相应的损失量训练神经仿真器和参数化组件是必要的，以最小化某些近似偏差的传播。
generic algorithmmachine learning-basedsubgrid parametrizationsneural emulatorsonline strategies
发现论文，激发创造
  • 多尺度神经算子：学习快速且与网格无关的 PDE 求解器

    利用神经算子的混合模型有效缩短了气候、化学或天体物理领域的数值模拟所需的计算成本、提升了模型预测精度、并提供了更灵活的可靠的参数化方法。

    Jul, 2022

  • 混合数值建模系统中深度学习子模型的在线校准

    通过引入新的建模能力，人工智能和深度学习正在重塑数字仿真框架，这些框架在模型校正和参数化方面表现出巨大潜力，并且通常优于传统物理模型。本文提出了一种高效实用的在线学习方法，名为 EGA（Euler 梯度逼近），用于混合系统，该方法通过假设对物理模型进行神经修正，并采用梯度的显式 Euler 逼近，克服了混合模型中的可微性难题，并证明在无限小时间步的极限下 EGA 收敛于精确梯度。数值实验结果显示，与离线学习相比，该方法在不同案例研究中，包括典型的海洋大气动力学中，有明显的改进，凸显了端到端在线学习对混合建模的潜力。

    Nov, 2023

  • 利用神经常微分方程在不连续 Galerkin 方法中学习亚网颗粒模型以处理可压性 Navier-Stokes 方程

    通过使用神经常微分方程在间断 Galerkin 空间离散化的背景下，我们提出了一种学习部分微分方程模拟时子网格规模模型效应的新方法，通过连续水平学习低阶 DG 求解器中丢失的尺度，从而提高低阶 DG 逼近的准确性并以一定程度的精度加速滤波器高阶 DG 模拟。我们通过不同雷诺数和时间的多维 Taylor-Green 涡旋实例演示了我们方法的性能，涵盖了层流、过渡和湍流状态。提出的方法不仅可以从低阶（1 阶）逼近重建子网格规模，还可以将滤波高阶（6 阶）DG 模拟加速两个数量级。

    Oct, 2023

  • 一种数据驱动的微分方程计算加速机器学习框架

    提出了一种机器学习框架，将时间依赖的 ODE 和 PDE 重新表示为人工神经网络，经过离线训练调整参数，通过数值实验展示了相比标准数值方法更高的计算效率。

    Jul, 2018

  • 时间子采样减弱了地球物理湍流的递归神经网络仿真中的小空间尺度

    该论文研究了机器学习方法在模拟高维地球物理湍流过程中的预测性能，并发现训练数据的时间分辨率对于预测性能的影响。

    Apr, 2023

  • 基于物理信息的扩散反应系统局部学习

    本文提出一种新的物理学和边界条件意识的局部学习方法，扩展 Embed-to-Control 和 Embed-to-Control 和 Observed 模型，用于学习 Advection-Diffusion Reaction 系统中全局状态变量的局部表示，经过油藏模拟数据训练的模型能够预测系统的未来状态，相对于原始 E2C 和 E2CO 模型，缩短了训练时间并提高了准确性。

    May, 2023

  • 神经 Galerkin 方案中的自适应采样：耦合参数和粒子动力学

    通过使用 Neural Galerkin schemes 方法，利用集合较少的粒子动态适应粒子来近似求解偏微分方程的深度神经网络训练过程中的误差，并在具有局部特征和高维空间域的问题中获得了准确的实证误差估计。

    Jun, 2023

  • 利用大规模在线学习训练深度代理模型

    该论文提出了一个开源在线培训框架，用于快速解决偏微分方程组，可以提高深度代理模型的数据多样性，对于 Fully connected neural networks、Fourier Neural Operator (FNO) 和 Message Passing PDE Solver 的预测准确度分别提高了 68％、16％和 7％。

    Jun, 2023

  • 基于层次深度学习的适应时间步长的多尺度模拟方案

    使用深度神经网络模拟多尺度问题的新方法，通过利用神经网络时间步进器的分层学习，自适应时间步长以近似不同时间尺度上的动力学系统流动图，与固定步长神经网络求解器相比，该方法在较少的计算时间内实现了业界领先的性能。

    Nov, 2023

  • 学习半线性神经算子：一种统一递归框架用于预测和数据同化

    使用基于学习的状态空间方法计算无限维半线性 PDE 的解算符，结合预测和修正操作，该方法能够在长时间范围内进行快速准确的预测并根据稀疏采样的噪声测量修正解算结果。

    Feb, 2024