保结构的物理信息神经网络：具有能量或李雅普诺夫结构

Jan, 2024

保结构的物理信息神经网络：具有能量或李雅普诺夫结构

Structure-Preserving Physics-Informed Neural Networks With Energy or Lyapunov Structure

Haoyu Chu, Yuto Miyatake, Wenjun Cui, Shikui Wei, Daisuke Furihata

TL;DR提出了一种结构保持的物理导向神经网络 (PINNs) 方法，通过设计结构保持的损失函数和利用系统的李雅普诺夫结构来提高 PINNs 的性能，从而改进了 PINNs 对偏微分方程的数值精度，并提高了模型对图像数据中对抗扰动的鲁棒性。

Abstract

Recently, there has been growing interest in using physics-informed neural networks (PINNs) to solve differential equations. However, the preservation of structure, such as energy and stability, in a suitable manner has yet to be established. This limitation could be a potential reason why the learning process for PINNs is not always efficient and the numeri

physics-informed neural networks structure-preserving downstream tasks partial differential equations adversarial perturbations

发现论文，激发创造

二值结构化物理信息神经网络用于求解具有快速变化解的方程

通过在前馈神经网络中嵌入偏微分方程所描述的物理信息，物理信息导向的神经网络（PINNs）作为深度学习的一种有前途的方法，用于解决偏微分方程（PDEs）。然而，尽管 PINNs 表现出卓越的性能，但它们在处理解快速变化的方程时可能面临困难。为了解决这些问题，我们提出了一种二进制结构的物理信息导向神经网络（BsPINN）框架，其中采用二进制结构神经网络（BsNN）作为神经网络组件。通过利用相对于完全连接的神经网络减少神经元连接的二进制结构，BsPINNs 在更有效和高效地捕捉解的局部特征方面表现出色。在一系列解决 Burgers 方程、Euler 方程、Helmholtz 方程和高维 Poisson 方程的数值实验中，BsPINNs 展现出优异的收敛速度和更高的准确性，相较于 PINNs。从这些实验中，我们发现 BsPINNs 解决了 PINNs 中增加的隐藏层导致过度平滑的问题，并防止了 PDEs 解不光滑导致准确性下降的问题。

Jan, 2024

鲁棒的物理信息神经网络

我们介绍了一种鲁棒版本的物理启发式神经网络（RPINN）来近似求解偏微分方程（PDEs），该方法利用能量范数计算的残差和格拉姆矩阵的倒数构建了损失函数，在两个空间维度的拉普拉斯问题和对流扩散问题中进行了测试，结果表明 RPINN 是一种鲁棒的方法，其损失函数与解的真实误差在能量范数下相符，因此我们可以知道训练过程进行得如何，并在达到所需精度的真实误差下停止训练来获得 PDE 解的神经网络逼近。

Jan, 2024

物理知识指导神经网络的可能失效模式表征

本文研究了物理知识对神经网络的影响，尤其是对物理意义的学习。研究发现，使用以前的方法，神经网络会容易受到微妙的问题的困扰。为了解决这个问题，我们提出了课程规范化和序列到序列学习两种新的方法。通过使用这两种方法，我们可以取得比以前更好的结果。

Sep, 2021

尊重因果关系即可训练物理学感知神经网络

本文提出一种简单的 PINNs 卷积方法，可显式考虑物理因果关系，在多尺度、混沌或湍流行为的动力学系统中实现更高的准确性和可靠性。

Mar, 2022

物理引导神经网络优化的建筑策略

物理启发的神经网络（PINNs）通过将深度学习与基本物理原理相结合，为解决偏微分方程中的正向和反向问题提供了一种有前途的方法。本研究从神经网络架构的角度深入探讨了 PINN 优化的复杂性，利用神经切向核（NTK），揭示了高斯激活提供了比其他激活函数更有效训练 PINNs 的优势。在数值线性代数的启示下，我们引入了一种经过预处理的神经网络架构，展示了这种定制架构如何增强优化过程。我们通过对科学文献中已有的偏微分方程进行严格验证，证实了我们的理论发现。

Feb, 2024

基于物理信息的神经网络在转换几何和流形上的应用

将几何变换与物理约束神经网络（PINNs）结合，通过将微分同胚作为参考域的映射并调整物理约束损失函数的导数计算，我们实现了对复杂几何和低维流形的 PINNs 的应用，从而允许在网络训练中进行直接的形状优化。通过对多个问题的示例验证，特别是在几何变化下，我们展示了该方法相比传统 PINNs 的增强灵活性。该框架为在科学和工程中基于参数化几何体上的偏微分方程（PDEs）进行高级建模铺平了道路。

Nov, 2023

基于物理信息的神经网络及其在物理信息机器学习中的相关模型的数值分析

对物理启发机器学习中的物理信息神经网络和相关模型的数值分析结果进行综合评述，并重点阐述了在近似偏微分方程时 PINN 所产生的误差在各个组成部分的行为，以及与 PDE 类型和基础域维度相关的逼近、概括和训练误差的可用结果。同时阐明了解的稳定性和解的规则性对误差分析的作用，最后通过数值结果来说明训练误差对物理启发机器学习中各种模型整体性能的不利影响。

Jan, 2024

通过物理知识指导的神经网络科学机器学习：现状和未来展望

文章综述了物理学启发的神经网络（PINN）的文献，并介绍了其特点和优缺点。此外，研究还包括了使用 PINN 以及它的许多其他变体解决 PDE、分数方程、积分微分方程和随机 PDE 的广泛应用领域，以及它们的定制化方法，如不同的激活函数、梯度优化技术、神经网络结构和损失函数结构。虽然该方法被证明在某些情况下比有限元方法更可行，但它仍面临理论问题尚未解决。

Jan, 2022

面向实际物理系统编码动力学的基于物理信息的神经网络

本文通过研究物理信息驱动的神经网络（PINNs）来编码控制方程，并评估其在两个不同系统的实验数据上的表现。我们发现，在简单的非线性摆系统中，PINNs 在理想数据情况下胜过了等效的无信息神经网络（NNs），在 10 个线性间隔和 10 个均匀分布的随机训练点上的准确度分别提高了 18 倍和 6 倍。在使用来自实验的真实数据进行类似测试的情况下，PINNs 相对于 NNs 的准确度提高了 9.3 倍和 9.1 倍，分别对应于 67 个线性间隔和均匀分布的随机点。此外，我们还研究了物理信息驱动模型在物理系统中的可行性，并选择 FPGA 作为部署计算的基板。鉴于此，我们使用了一台 PYNQ-Z1 FPGA 进行实验，并找出了与时间相干感知和空间数据对齐相关的问题。根据提出的系统架构和方法，我们讨论了从这项工作中获得的见解，并列出了未来工作计划。

Jan, 2024

物理启发式神经网络的增广拉格朗日松弛方法

本研究提出了一种基于增广拉格朗日方法的 Physics-Informed Neural Networks (AL-PINNs) 算法，用于优化偏微分方程的残差问题，并通过数值实验证明了该方法相较于现有的自适应损失平衡算法具有更小的相对误差。

Apr, 2022