Feb, 2024

神经网络逼近微分方程的正确性验证

PDF
TL;DR通过定义神经网络的导数为有限差分逼近，并提出求解偏微分方程残差边界问题和初始值问题误差传播的方法，我们首次解决了在没有先验知识的情况下界定神经网络函数的问题，并构建了一个并行分支算法，该算法结合了不完全的 CROWN 求解器和梯度攻击来解决终止和域拒绝条件。我们展示了提议框架的优点和缺点，并提出了进一步改进效率的工作。
neural networkspartial differential equationsverificationsimulation software toolstrustworthiness
发现论文，激发创造
  • 学习可微分的处理硬约束系统的求解器

    提出一种实用的方法，通过神经网络来精确实现偏微分方程控制，利用可微分优化和隐式函数定理来有效实施物理约束，模型能够在域内提供准确满足期望物理约束的连续解。

    Jul, 2022

  • 偏微分方程与深度神经网络的结合：综述

    本文对深度神经网络用于偏微分方程 (PDEs) 求解的现状和潜在应用进行了综述，分析和分类了相关方法在科学研究和工程场景中的应用，介绍了这一领域的来源、历史、特点、类型以及未来趋势。

    Oct, 2022

  • 神经网络深度证明在具有恒定扩散和非线性漂移系数的 Kolmogorov 偏微分方程数值逼近中克服了维度灾难

    这篇论文揭示了深度人工神经网络在 Kolmogorov PDEs 数值逼近中克服了维数灾难的现象。我们证明了所用 DNN 模型的参数数量在 PDE 维数 d 和逼近精度的倒数 ε 的倒数中，最多呈多项式增长。

    Sep, 2018

  • 解决偏微分方程的快速分辨率无关的神经技术

    本文综述了传统的 PDE 数值逼近方法以及近期的基于机器学习的方法，重点介绍了以神经算子为中心的关键构架，这是一种学习 PDE 解算子的新方法，与传统方法相比具有 1000 倍的计算速度优势，这些新的计算方法可以在解决许多基础和应用物理问题方面带来巨大优势。

    Jan, 2023

  • 人工神经网络求解常微分方程和偏微分方程

    本研究提出了一种使用人工神经网络解决初始和边界值问题的方法，其中差分方程的试验解被写成两部分的和，第一部分满足边界条件，不包含任何可调参数，第二部分涉及前馈神经网络，包含可调参数（权重）。因此，通过构造满足边界条件的方法，使神经网络训练满足差分方程。本文通过解决各种模型问题并与有限元素进行比较，说明了该方法的适用性范围从单个 ODE 到耦合 ODE 系统，再到 PDE。

    May, 1997

  • 高维随机偏微分方程深度神经网络代理

    利用深度学习方法解决高维随机偏微分方程的问题。通过使用全连接深度残差网络来逼近随机偏微分方程，在确定逼近深度神经网络的参数时，采用了 SGD 的变种，并在扩散和热传导问题上得到了验证。

    Jun, 2018

  • 可证明正确的物理信息神经网络

    本文介绍了一种基于物理信息的神经网络（PINN）来解决偏微分方程的方法，并提出了一种基于容差的正确性条件的后训练框架（CROWN），用于限制 PINN 残差误差，并在经典 PDE 和现实应用中进行了实际效果测试。

    May, 2023

  • 自动微分在神经网络求解微分方程中的重要性

    神经网络方法在科学和工程领域中解决偏微分方程具有显著优势，尤其是在涉及复杂区域或纳入经验数据的情况下。本文引入截断熵的概念来表征训练性质，通过对随机特征模型和两层神经网络进行综合实验证明这一定义的截断熵可靠地量化随机特征模型的残差损失和神经网络在自动微分和有限差分方法下的训练速度，实验证明从训练角度看，自动微分能够在解决偏微分方程的问题上胜过有限差分法。

    May, 2024

  • 用采样神经网络解决偏微分方程

    利用采样方法，从数据无关和数据相关的概率分布中提取隐含权重和偏置的神经网络，可以在训练时间和逼近精度方面取得重大突破，并且能够有效解决时变和静态的偏微分方程以及逆问题，带来了光谱收敛和无网格构建基函数等优势。

    May, 2024

  • 复杂地形中偏微分方程的统一深度人工神经网络方法

    本文利用深度前馈人工神经网络近似求解复杂几何下的偏微分方程，并演示了如何修改反向传播算法来计算网络输出对空间变量的偏导数。此方法基于一种假设解法，只需要前馈神经网络和梯度优化方法，如梯度下降或拟牛顿方法，可以作为网格法无法使用时的有效替代方案。此外，本文还阐述了深度相比于浅度神经网络的优势及其他收敛增强技术的设想。

    Nov, 2017