Nov, 2023

具有随机平滑的物理信息神经网络中的偏差 - 方差权衡问题

PDF
TL;DR通过引入高斯噪声进行随机平滑以及根据 PDE 非线性性提出的偏差校正技术，我们综合分析了 Randomized Smoothing PINN 的偏差问题，并在有限维度和非线性 PDE 问题上研究了 RS-PINN 的性能和效果。结果表明，在高维度问题中，将有偏差的版本与无偏差的版本相结合，可以在偏差和方差之间找到平衡点，以实现更快的收敛和更高的准确性。
physics-informed neural networksrandomized smoothing pinnhigh-dimensional scenariosbias-variance trade-offpde nonlinearity
发现论文，激发创造
  • 鲁棒的物理信息神经网络

    我们介绍了一种鲁棒版本的物理启发式神经网络（RPINN）来近似求解偏微分方程（PDEs），该方法利用能量范数计算的残差和格拉姆矩阵的倒数构建了损失函数，在两个空间维度的拉普拉斯问题和对流扩散问题中进行了测试，结果表明 RPINN 是一种鲁棒的方法，其损失函数与解的真实误差在能量范数下相符，因此我们可以知道训练过程进行得如何，并在达到所需精度的真实误差下停止训练来获得 PDE 解的神经网络逼近。

    Jan, 2024

  • VS-PINN: 使用变量缩放方法解决具有严格行为的偏微分方程的物理约束神经网络的快速高效训练

    提出一种使用变量缩放技术训练物理信息神经网络（PINNs）的新方法，通过对神经切线核（NTK）的分析提供理论证据并证明这种方法确实可以提高 PINNs 的性能。

    Jun, 2024

  • B-PINNs: 带有噪声数据的前向和反向 PDE 问题的贝叶斯物理信息神经网络

    提出一个贝叶斯物理知识推断神经网络（B-PINN）框架，结合贝叶斯神经网络（BNN）和偏微分方程参数复合神经网络（PINN）以解决由偏微分方程和噪声数据描述的前向和反向非线性问题，并进行不确定性量化和 posterior 分布估计。

    Mar, 2020

  • 贝叶斯 PINN 逆问题估计速率

    使用物理约束的神经网络和贝叶斯后验均值估计的方法在物理和机器学习领域得到了广泛的应用，本研究探讨了这些方法在解决偏微分方程及其反问题时的性能和收敛性。

    Jun, 2024

  • 物理信息神经网络在频谱范围和导数阶数上的收敛行为研究

    该研究通过对不同频率、组合和方程的简单正弦函数进行一系列数值实验，发现在标准化条件下，具有任意阶微分方程的物理知情神经网络确实存在明显的谱偏差，并随微分方程的阶数而增加。

    Jan, 2023

  • 可证明正确的物理信息神经网络

    本文介绍了一种基于物理信息的神经网络（PINN）来解决偏微分方程的方法，并提出了一种基于容差的正确性条件的后训练框架（CROWN），用于限制 PINN 残差误差，并在经典 PDE 和现实应用中进行了实际效果测试。

    May, 2023

  • 二值结构化物理信息神经网络用于求解具有快速变化解的方程

    通过在前馈神经网络中嵌入偏微分方程所描述的物理信息，物理信息导向的神经网络（PINNs）作为深度学习的一种有前途的方法，用于解决偏微分方程（PDEs）。然而，尽管 PINNs 表现出卓越的性能，但它们在处理解快速变化的方程时可能面临困难。为了解决这些问题，我们提出了一种二进制结构的物理信息导向神经网络（BsPINN）框架，其中采用二进制结构神经网络（BsNN）作为神经网络组件。通过利用相对于完全连接的神经网络减少神经元连接的二进制结构，BsPINNs 在更有效和高效地捕捉解的局部特征方面表现出色。在一系列解决 Burgers 方程、Euler 方程、Helmholtz 方程和高维 Poisson 方程的数值实验中，BsPINNs 展现出优异的收敛速度和更高的准确性，相较于 PINNs。从这些实验中，我们发现 BsPINNs 解决了 PINNs 中增加的隐藏层导致过度平滑的问题，并防止了 PDEs 解不光滑导致准确性下降的问题。

    Jan, 2024

  • 基于物理信息的分布式神经网络求解偏微分方程的数据高效方法

    通过测试传统 PINN 方法的表达能力，本论文提出了一种分布式 PINN（DPINN），并与原方法进行了对比，试图直接使用物理信息神经网络来解决非线性偏微分方程及二维稳态 Navier-Stokes 方程。

    Jul, 2019

  • 物理信息图神经 Galerkin 网络：求解 PDE 控制的正向和反向问题的统一框架

    本研究介绍了一种新型离散 PINN 框架，基于图卷积网络和 PDE 的变分结构，能够在前向和反向设置中严格施加边界条件和吸收稀疏数据，适用于处理不规则几何形状和非结构化网格等应用领域。

    Jul, 2021

  • 从回归到物理启发式神经网络的多尺度偏微分方程求解的傅里叶特征网络中的特征向量偏差

    本研究采用神经切向核理论观察了物理知识指导神经网络的局限性，并通过构建新的体系结构使用时空和多尺度随机傅里叶特征，成功解决了波传播、反应扩散动力学等多尺度问题。

    Dec, 2020