光谱偏差和内核任务对齐在物理信息神经网络中的应用
该研究通过对不同频率、组合和方程的简单正弦函数进行一系列数值实验,发现在标准化条件下,具有任意阶微分方程的物理知情神经网络确实存在明显的谱偏差,并随微分方程的阶数而增加。
Jan, 2023
文章综述了物理学启发的神经网络(PINN)的文献,并介绍了其特点和优缺点。此外,研究还包括了使用 PINN 以及它的许多其他变体解决 PDE、分数方程、积分微分方程和随机 PDE 的广泛应用领域,以及它们的定制化方法,如不同的激活函数、梯度优化技术、神经网络结构和损失函数结构。虽然该方法被证明在某些情况下比有限元方法更可行,但它仍面临理论问题尚未解决。
Jan, 2022
物理启发的神经网络(PINNs)通过将深度学习与基本物理原理相结合,为解决偏微分方程中的正向和反向问题提供了一种有前途的方法。本研究从神经网络架构的角度深入探讨了 PINN 优化的复杂性,利用神经切向核(NTK),揭示了高斯激活提供了比其他激活函数更有效训练 PINNs 的优势。在数值线性代数的启示下,我们引入了一种经过预处理的神经网络架构,展示了这种定制架构如何增强优化过程。我们通过对科学文献中已有的偏微分方程进行严格验证,证实了我们的理论发现。
Feb, 2024
给定一些稀疏和 / 或嘈杂的数据,本文提出了一种纠正 PINNs 中模型错误的通用方法,使用其他深度神经网络 (DNNs) 建模模型偏差和观测数据之间的差异,从而扩展了 PINNs 在未知物理过程的复杂系统中发现规律方程的应用。
Oct, 2023
提供了使用转移学习来增强 PINN 的鲁棒性和收敛性的训练方法,通过两个案例研究发现转移学习可以有效训练 PINN 在低频问题到高频问题的近似解,同时减少了网络参数,所需数据点和训练时间。同时提供了优化器选择和使用转移学习解决更复杂问题的指南。
Jan, 2024
对物理启发机器学习中的物理信息神经网络和相关模型的数值分析结果进行综合评述,并重点阐述了在近似偏微分方程时 PINN 所产生的误差在各个组成部分的行为,以及与 PDE 类型和基础域维度相关的逼近、概括和训练误差的可用结果。同时阐明了解的稳定性和解的规则性对误差分析的作用,最后通过数值结果来说明训练误差对物理启发机器学习中各种模型整体性能的不利影响。
Jan, 2024
通过在前馈神经网络中嵌入偏微分方程所描述的物理信息,物理信息导向的神经网络(PINNs)作为深度学习的一种有前途的方法,用于解决偏微分方程(PDEs)。然而,尽管 PINNs 表现出卓越的性能,但它们在处理解快速变化的方程时可能面临困难。为了解决这些问题,我们提出了一种二进制结构的物理信息导向神经网络(BsPINN)框架,其中采用二进制结构神经网络(BsNN)作为神经网络组件。通过利用相对于完全连接的神经网络减少神经元连接的二进制结构,BsPINNs 在更有效和高效地捕捉解的局部特征方面表现出色。在一系列解决 Burgers 方程、Euler 方程、Helmholtz 方程和高维 Poisson 方程的数值实验中,BsPINNs 展现出优异的收敛速度和更高的准确性,相较于 PINNs。从这些实验中,我们发现 BsPINNs 解决了 PINNs 中增加的隐藏层导致过度平滑的问题,并防止了 PDEs 解不光滑导致准确性下降的问题。
Jan, 2024
通过测试传统 PINN 方法的表达能力,本论文提出了一种分布式 PINN(DPINN),并与原方法进行了对比,试图直接使用物理信息神经网络来解决非线性偏微分方程及二维稳态 Navier-Stokes 方程。
Jul, 2019
本篇论文探讨了 PINN 作为线性求解器的潜力,在 Poisson 方程中评估了不同参数下的表现和精度,并且阐述了传递学习的关键作用。同时,论文也提出了将 PINN 与传统线性求解器相结合的方法,以解决高频解的问题,并表明该混合策略在发展具有潜力的新型线性求解器方面具有前景。
Mar, 2021
本文提出了一种名为 SA-PINNs 的自适应训练方法,通过使用可训练的自适应权重和基于高斯过程回归的连续权重映射,使神经网络学习重点区域并获得了很好的性能,在多项线性和非线性基准测试问题中表现出色,是当前最先进的 PINN 算法之一。
Sep, 2020