Jun, 2023

神经 Galerkin 方案中的自适应采样：耦合参数和粒子动力学

PDF
TL;DR通过使用 Neural Galerkin schemes 方法，利用集合较少的粒子动态适应粒子来近似求解偏微分方程的深度神经网络训练过程中的误差，并在具有局部特征和高维空间域的问题中获得了准确的实证误差估计。
deep neural networkspartial differential equationsneural galerkin schemesadaptive distributionsempirical estimates
发现论文，激发创造
  • 高维演化方程的神经 Galerkin 方案与主动学习

    该研究提出了一种新的基于深度学习的神经 Galerkin 方法，用于数值求解高维偏微分方程。该方法可以自适应地采集新的训练数据，以实现在高维空间中训练深度神经网络，从而成功地模拟了许多变量的系统中的波动和相互作用。

    Mar, 2022

  • 用神经伽辽金方案嵌入以保持哈密顿量和其他数量的非线性

    该研究论文关注利用深度网络等非线性参数化近似解偏微分方程时，保持如 Hamiltonians、质量和动量等数量的守恒。研究提出的方法基于基于 Dirac-Frenkel 变分原理的神经 Galerkin 方案，在时间上逐步训练非线性参数化。论文首先表明仅添加连续时间内旨在保持数量守恒的约束可能不足够，因为参数的非线性依赖意味着即使对解场线性的数量在参数上也变为非线性，因此在时间上离散化变得困难。相反，论文提出了神经 Galerkin 方案，它在每个时间步计算出非线性参数化解场在流形上的显式嵌入，以确保数量的守恒。这些嵌入可以与标准的显式和隐式时间积分方案相结合。数值实验表明，所提出的方法可以保持数量守恒直至机器精度。

    Oct, 2023

  • 基于深度 Galerkin 反馈法的智能体动力学最优控制

    通过采用基于漂移放松的采样方法，本文研究了 Deep Galerkin 方法所面临的采样问题，通过验证 Sznajd 和 Hegselmann-Krause 模型中的意见动态变化的多场控制问题，得出的策略在手动优化控制函数上实现了显著成本降低，并在 Deep FBSDE 方法上改进了线性 - 二次调节器问题。

    Jun, 2024

  • 随机稀疏神经 Galerkin 方案用于使用深度网络求解演化方程

    通过在时序中顺序训练神经网络来逼近时变偏微分方程的解场，有助于保持因果性和其他物理特性；然而，由于训练误差随时间快速累积和放大，时序训练的数值挑战很大。本研究引入了 Neural Galerkin 方案，该方案在每个时间步骤更新网络参数的随机稀疏子集。随机化的操作避免了局部时间上的过拟合问题，因此有助于防止误差在时序训练中快速累积。该方案的更新稀疏性减少了训练的计算成本，而不会失去表达能力，因为在每个时间步骤中，很多网络参数是冗余的。通过与密集更新方案进行的大量数值实验表明，使用随机稀疏更新的建议方案在固定计算预算下精度高出两个数量级，而在固定精度下速度快两个数量级。

    Oct, 2023

  • 稀疏噪声数据下参数偏微分方程的深度学习

    本文提出了一种新的框架，将神经网络、遗传算法和自适应方法相结合，应用于从稀疏噪声数据，不完整的备选库和空间或时间变化系数中发现偏微分方程。该方法在 Burgers 方程，对流扩散方程，波动方程和 KdV 方程上进行了测试，结果表明该方法对噪声数据具有鲁棒性，能够发现具有不完整备选库的参数 PDE。

    May, 2020

  • 物理信息神经网络中积分损失的学习

    本文提出了针对基于部分积分 - 微分方程训练物理启发网络的问题的解决方案，包括三种类型的解决方法，证实了当前的近似方法的存在偏差，提出了新的延迟目标方法，证明其可以以可比的质量获得精确的解决方案。

    May, 2023

  • 用模型集成改进物理知识神经网络的训练

    该论文提出了使用集成的物理信息神经网络 (PINN) 来解决解偏微分方程 (PDEs) 的问题，通过逐步扩展解决方案间隔以及结合 PINN 模型集中观察点的解决方案的一致性来稳定 PINN 的培训，并使结果明显优于目前存在的时间自适应策略的 PINN 算法。

    Apr, 2022

  • 物理信息操作学习与有限元法的参数学习偏微分方程的融合

    利用物理知识驱动的深度学习方法在异质固体中解决参数化偏微分方程，它的关键是建立复杂的热导率分布、温度分布和热流分量之间的联系，通过固定边界条件，在这项工作中，我们独立于有限元方法等经典求解器，并通过基于离散弱形式的损失函数定义方法给出出色的结果，该损失函数是一个代数方程，大大提高了训练效率。通过将我们的方法与标准有限元方法进行基准测试，我们展示了使用训练有素的神经网络在温度和通量剖面方面进行准确且更快的预测，我们还展示了在未知情况下，与纯数据驱动方法相比，所提出的方法具有更高的准确性。

    Jan, 2024

  • 对抗自适应采样：统一 PINN 和最优输运用于 PDE 近似

    本文提出了一种新的最小最大 (PDEs) 方程求解方法，通过使用神经网络模型和深度生成模型来同时优化近似解及数据集，从而减少最终逼近的统计误差，此方法称为对抗性自适应采样 (adversarial adaptive sampling)，并是将两个组件融合的第一次的尝试。

    May, 2023

  • 基于神经网络的变分增强采样

    使用机器学习技术和变分增强采样方法结合来快速采样自由能面，通过采用神经网络表示偏差来决定采样的参数，在重复学习方案中对其进行确定并打破一些壁垒

    Apr, 2019