逼近半线性波动方程的具有物理建模信息的神经网络的误差估计

Feb, 2024

逼近半线性波动方程的具有物理建模信息的神经网络的误差估计

Error Estimation for Physics-informed Neural Networks Approximating Semilinear Wave Equations

Beatrice Lorenz, Aras Bacho, Gitta Kutyniok

TL;DR我们提供了严格的误差界限，以评估逼近半线性波动方程的物理为本的神经网络。通过神经网络的层宽和训练点数，我们对具有两个隐藏层的双曲正切神经网络提供了总误差的界限，可在一些假设下使其任意小。我们通过数值实验展示了我们的理论界限。

Abstract

This paper provides rigorous error bounds for physics-informed neural networks approximating the semilinear wave equation. We provide bounds for the generalization and training error in terms of the width of the

physics-informed neural networks semilinear wave equation generalization error training error numerical experiments

发现论文，激发创造

物理信息神经网络中积分损失的学习

本文提出了针对基于部分积分 - 微分方程训练物理启发网络的问题的解决方案，包括三种类型的解决方法，证实了当前的近似方法的存在偏差，提出了新的延迟目标方法，证明其可以以可比的质量获得精确的解决方案。

May, 2023

面向物理学习的算子学习的近似误差的通用界限

提出了一种通用的框架，用于导出物理相关神经网络（PINN）和操作器学习结构（如 DeepONets 和 FNOs）以及物理相关操作器学习的逼近误差的严格界限，并保证这些结构将有效逼近一般偏微分方程（PDE）的解或解算子。

May, 2022

浅层神经网络超参数化的监督学习基本极限

对使用两层神经网络进行信息理论分析的研究，研究了限制数据和模型的情况下神经网络的性能极限，结果表明这个性能极限取决于训练数据的数量、输入维度和隐藏单元的数量

Jul, 2023

奇点扰动的神经网络

我们在简化的双曲线两点边界值问题的模型类别中，证明了解集的深度神经网络 (DNN) 表达能力率的上界，并给出了与奇异扰动参数一致的 Sobolev 范数上的表达能力上界。我们证明了各种 DNN 体系结构的表达能力率上界，包括 ReLU NN，spiking NN，$ anh$- 和 sigmoid-activated NN。后者激活函数可以显式地表示 “指数性边界层解特征”，在 DNN 的最后一层中，即在浅层子网络中，并具有更好的表达能力率上界。我们证明了所有 DNN 体系结构均允许在所谓的 “能量” 和 “平衡” Sobolev 范数中，对于解析输入数据进行强大的指数解表达能力。

Jan, 2024

深度弱非线性网络的贝叶斯推断

在大量训练数据、输入维度、网络层宽度和网络深度同时很大的情况下，我们展示了贝叶斯推断与全连接神经网络和形状非线性的关系，并提供了计算模型证据和后验的技术，结果表明神经网络贝叶斯推断与使用核函数的贝叶斯推断相一致，当网络层宽度大于深度和训练集大小时，神经网络贝叶斯推断的深度是一个有效的参数。

May, 2024

利用非线性薛定谔方程和物理信息神经网络进行水波的数据同化和参数识别

利用物理信息神经网络技术，本研究提出在水下安装少量监测仪器的情况下，通过测量数据重建表面高度的时空范围，以解决常规数值方法无法解决的数据同化问题，并成功应用于确定性波浪预测方法的改进。

Jan, 2024

利用二阶 Poincaré 不等式对高斯神经网络进行非渐近逼近

本文介绍了对高斯神经网络的一些非症态量化高斯逼近，用一些流行距离（如 $1$-Wasserstein 距离、总变分距离和 Kolmogorov-Smirnov 距离）量化逼近误差，这依赖于二阶高斯 Poincaré 不等式提供的非常紧密的逼近误差估计，有最佳的速率。这是二阶高斯 Poincaré 不等式的一项新应用，在概率文献中被认为是获得高斯随机过程一般泛函的高斯逼近的有力工具。还讨论了到深层高斯神经网络的推广。

Apr, 2023

改进物理推断神经网络训练过程的锥形散射公式化的亥姆霍兹方程

通过物理信息神经网络（PINNs），本研究解决了连接两个半无限波导的入射波在节点处的散射问题。为了改善模型的学习能力，研究提出了亥姆霍兹边界值问题（BVP）的等效公式，利用了反向传播过程中传递的信息，从而增强和加速了 PINN 模型的训练过程。

Apr, 2024

利用控制工具估计通用神经网络结构的利普希茨常数

该论文以半定规划方法估计神经网络的 Lipschitz 常数，并通过动态规划递归来利用神经网络的级联结构，处理非线性激活函数、汇聚层和信号处理层。通过应用到不同的神经网络架构，展示了该方法的多功能性和计算优势。

May, 2024

量子神经网络和量子储备库的通用逼近定理和误差界

本文研究了经典神经网络的普适逼近定理在量子设置下的拓展，通过参数化量子电路近似传统函数，并提供精确的误差界，并将结果推广到模拟经典储备神经网络的随机量子电路。结果表明，一个具有 O (ε^-2) 个权重和 O (⌈log_2 (ε^-1)⌉) 个量子比特的量子神经网络可以在近似具有可积傅里叶变换的函数时达到精度 ε>0。

Jul, 2023