基于贝叶斯推理的物理信息神经网络
提出一个贝叶斯物理知识推断神经网络(B-PINN)框架,结合贝叶斯神经网络(BNN)和偏微分方程参数复合神经网络(PINN)以解决由偏微分方程和噪声数据描述的前向和反向非线性问题,并进行不确定性量化和 posterior 分布估计。
Mar, 2020
提出了使用物理知识的可逆神经网络 (PI-INN) 来解决贝叶斯反问题的新方法,其中包括 INN 和 NB-Net 两个子网络来提高估计后验概率分布的可行性,并采用新的独立损失项来保证 INN 输出的统计独立性,通过数值实验验证了其高效性和准确性。
Apr, 2023
文章综述了物理学启发的神经网络(PINN)的文献,并介绍了其特点和优缺点。此外,研究还包括了使用 PINN 以及它的许多其他变体解决 PDE、分数方程、积分微分方程和随机 PDE 的广泛应用领域,以及它们的定制化方法,如不同的激活函数、梯度优化技术、神经网络结构和损失函数结构。虽然该方法被证明在某些情况下比有限元方法更可行,但它仍面临理论问题尚未解决。
Jan, 2022
使用物理约束的神经网络和贝叶斯后验均值估计的方法在物理和机器学习领域得到了广泛的应用,本研究探讨了这些方法在解决偏微分方程及其反问题时的性能和收敛性。
Jun, 2024
利用符合预测框架的一致预测神经网络(C-PINNs),量化 PINNs 的不确定性,通过提供具有有限样本、无分布统计有效性的区间,解决常规 PINNs 不提供不确定性量化的问题。
May, 2024
通过在前馈神经网络中嵌入偏微分方程所描述的物理信息,物理信息导向的神经网络(PINNs)作为深度学习的一种有前途的方法,用于解决偏微分方程(PDEs)。然而,尽管 PINNs 表现出卓越的性能,但它们在处理解快速变化的方程时可能面临困难。为了解决这些问题,我们提出了一种二进制结构的物理信息导向神经网络(BsPINN)框架,其中采用二进制结构神经网络(BsNN)作为神经网络组件。通过利用相对于完全连接的神经网络减少神经元连接的二进制结构,BsPINNs 在更有效和高效地捕捉解的局部特征方面表现出色。在一系列解决 Burgers 方程、Euler 方程、Helmholtz 方程和高维 Poisson 方程的数值实验中,BsPINNs 展现出优异的收敛速度和更高的准确性,相较于 PINNs。从这些实验中,我们发现 BsPINNs 解决了 PINNs 中增加的隐藏层导致过度平滑的问题,并防止了 PDEs 解不光滑导致准确性下降的问题。
Jan, 2024
我们介绍了一种鲁棒版本的物理启发式神经网络(RPINN)来近似求解偏微分方程(PDEs),该方法利用能量范数计算的残差和格拉姆矩阵的倒数构建了损失函数,在两个空间维度的拉普拉斯问题和对流扩散问题中进行了测试,结果表明 RPINN 是一种鲁棒的方法,其损失函数与解的真实误差在能量范数下相符,因此我们可以知道训练过程进行得如何,并在达到所需精度的真实误差下停止训练来获得 PDE 解的神经网络逼近。
Jan, 2024
本文通过研究物理信息驱动的神经网络(PINNs)来编码控制方程,并评估其在两个不同系统的实验数据上的表现。我们发现,在简单的非线性摆系统中,PINNs 在理想数据情况下胜过了等效的无信息神经网络(NNs),在 10 个线性间隔和 10 个均匀分布的随机训练点上的准确度分别提高了 18 倍和 6 倍。在使用来自实验的真实数据进行类似测试的情况下,PINNs 相对于 NNs 的准确度提高了 9.3 倍和 9.1 倍,分别对应于 67 个线性间隔和均匀分布的随机点。此外,我们还研究了物理信息驱动模型在物理系统中的可行性,并选择 FPGA 作为部署计算的基板。鉴于此,我们使用了一台 PYNQ-Z1 FPGA 进行实验,并找出了与时间相干感知和空间数据对齐相关的问题。根据提出的系统架构和方法,我们讨论了从这项工作中获得的见解,并列出了未来工作计划。
Jan, 2024
对物理启发机器学习中的物理信息神经网络和相关模型的数值分析结果进行综合评述,并重点阐述了在近似偏微分方程时 PINN 所产生的误差在各个组成部分的行为,以及与 PDE 类型和基础域维度相关的逼近、概括和训练误差的可用结果。同时阐明了解的稳定性和解的规则性对误差分析的作用,最后通过数值结果来说明训练误差对物理启发机器学习中各种模型整体性能的不利影响。
Jan, 2024