Oct, 2023

用神经伽辽金方案嵌入以保持哈密顿量和其他数量的非线性

PDF
TL;DR该研究论文关注利用深度网络等非线性参数化近似解偏微分方程时，保持如 Hamiltonians、质量和动量等数量的守恒。研究提出的方法基于基于 Dirac-Frenkel 变分原理的神经 Galerkin 方案，在时间上逐步训练非线性参数化。论文首先表明仅添加连续时间内旨在保持数量守恒的约束可能不足够，因为参数的非线性依赖意味着即使对解场线性的数量在参数上也变为非线性，因此在时间上离散化变得困难。相反，论文提出了神经 Galerkin 方案，它在每个时间步计算出非线性参数化解场在流形上的显式嵌入，以确保数量的守恒。这些嵌入可以与标准的显式和隐式时间积分方案相结合。数值实验表明，所提出的方法可以保持数量守恒直至机器精度。
发现论文，激发创造
  • 神经 Galerkin 方案中的自适应采样：耦合参数和粒子动力学

    通过使用 Neural Galerkin schemes 方法，利用集合较少的粒子动态适应粒子来近似求解偏微分方程的深度神经网络训练过程中的误差，并在具有局部特征和高维空间域的问题中获得了准确的实证误差估计。

    Jun, 2023

  • 高维演化方程的神经 Galerkin 方案与主动学习

    该研究提出了一种新的基于深度学习的神经 Galerkin 方法，用于数值求解高维偏微分方程。该方法可以自适应地采集新的训练数据，以实现在高维空间中训练深度神经网络，从而成功地模拟了许多变量的系统中的波动和相互作用。

    Mar, 2022

  • 随机稀疏神经 Galerkin 方案用于使用深度网络求解演化方程

    通过在时序中顺序训练神经网络来逼近时变偏微分方程的解场，有助于保持因果性和其他物理特性；然而，由于训练误差随时间快速累积和放大，时序训练的数值挑战很大。本研究引入了 Neural Galerkin 方案，该方案在每个时间步骤更新网络参数的随机稀疏子集。随机化的操作避免了局部时间上的过拟合问题，因此有助于防止误差在时序训练中快速累积。该方案的更新稀疏性减少了训练的计算成本，而不会失去表达能力，因为在每个时间步骤中，很多网络参数是冗余的。通过与密集更新方案进行的大量数值实验表明，使用随机稀疏更新的建议方案在固定计算预算下精度高出两个数量级，而在固定精度下速度快两个数量级。

    Oct, 2023

  • 通过显式约束简化 Hamiltonian 和 Lagrangian 神经网络

    通过将系统嵌入笛卡尔坐标并使用拉格朗日乘子显式地强制执行约束，本文证明了相较于使用广义坐标来编码系统约束的方法，使用笛卡尔坐标可以在准确度和数据效率方面提高 100 倍。

    Oct, 2020

  • 使用 E (3)- 等变图神经网络学习拉格朗日流体力学

    我们展示了等变图神经网络在工程系统机器学习领域具有优于非等变模型的学习精度，并且我们发现使用我们提出的历史嵌入方法来训练等变模型可以学习到更加准确的物理交互。

    May, 2023

  • 基于深度 Galerkin 反馈法的智能体动力学最优控制

    通过采用基于漂移放松的采样方法，本文研究了 Deep Galerkin 方法所面临的采样问题，通过验证 Sznajd 和 Hegselmann-Krause 模型中的意见动态变化的多场控制问题，得出的策略在手动优化控制函数上实现了显著成本降低，并在 Deep FBSDE 方法上改进了线性 - 二次调节器问题。

    Jun, 2024

  • 深度学习用于保结构通用稳定的 Koopman-Inspired 非线性规范哈密顿动力学嵌入

    通过深度学习揭示紧凑辛坐标转换和相应的简单动力模型，促进了对非线性规范哈密顿系统的数据驱动学习，即使是具有连续谱的系统。

    Aug, 2023

  • 拉格朗日神经网络

    本文提出了一种使用神经网络来参数化任意 Lagrangian 的 Lagrangian 神经网络（LNNs），该方法不需要标准坐标，因此可适用于标准动量未知或难以计算的情况，并且在各种任务中产生遵守能量守恒条件的模型，通过在双摆和相对论粒子上的测试表明，该方法可用于建模且不会损耗能量，还可以应用于图形和连续系统，并证明其用于一维波动方程。

    Mar, 2020

  • 使用深度卷积自编码器对非线性流形上的动态系统进行模型简化

    介绍一种新的基于最小残差的方法，通过在时间连续和时间离散水平上使用非线性流形将动力系统投影到上，即流形 Galerkin 投影和流形 Petrov-Galerkin 投影，并提出了一个计算非线性流形的可行方法，该方法基于深度学习中的卷积自编码器。最后，演示了这种方法在反向控制问题上的比优对比结果。

    Dec, 2018

  • 用傅里叶神经算子近似数值通量用于双曲型守恒律

    这篇论文研究了将神经网络方法与传统的数值方案结合，以在处理保守定律时具有稳健性、分辨率不变性和数据驱动能力的特点，并通过实验证明了方法在时间连续预测和对分布之外样本的推广能力方面的优势。

    Jan, 2024