物理约束神经网络的对抗训练

Oct, 2023

Adversarial Training for Physics-Informed Neural Networks

Yao Li, Shengzhu Shi, Zhichang Guo, Boying Wu

TL;DR基于梯度下降对抗攻击，本文提出了一种适用于物理知识的神经网络（PINNs）的对抗训练策略，称为 AT-PINNs，通过对抗样本微调模型，从而提高了 PINNs 的鲁棒性，准确识别模型失败区域，并在训练过程中使模型关注这些区域。AT-PINNs 还能通过选择初始值周围的对应点进行推理，从而执行具有时间因果关系的推理。实验结果表明，AT-PINNs 能够有效地定位和减少失败区域，且适用于解决复杂的偏微分方程，因为通过对抗攻击定位失败区域与失败区域的大小或分布的复杂程度无关。

Abstract

physics-informed neural networks have shown great promise in solving partial differential equations. However, due to insufficient robustness, vanilla pinns often face challenges when solving complex PDEs, especia

physics-informed neural networks adversarial training strategy pinns multi-scale behaviors model failure locations

发现论文，激发创造

利用软注意力机制的自适应物理知识神经网络

本文提出了一种名为 SA-PINNs 的自适应训练方法，通过使用可训练的自适应权重和基于高斯过程回归的连续权重映射，使神经网络学习重点区域并获得了很好的性能，在多项线性和非线性基准测试问题中表现出色，是当前最先进的 PINN 算法之一。

Sep, 2020

用模型集成改进物理知识神经网络的训练

该论文提出了使用集成的物理信息神经网络 (PINN) 来解决解偏微分方程 (PDEs) 的问题，通过逐步扩展解决方案间隔以及结合 PINN 模型集中观察点的解决方案的一致性来稳定 PINN 的培训，并使结果明显优于目前存在的时间自适应策略的 PINN 算法。

Apr, 2022

鲁棒的物理信息神经网络

我们介绍了一种鲁棒版本的物理启发式神经网络（RPINN）来近似求解偏微分方程（PDEs），该方法利用能量范数计算的残差和格拉姆矩阵的倒数构建了损失函数，在两个空间维度的拉普拉斯问题和对流扩散问题中进行了测试，结果表明 RPINN 是一种鲁棒的方法，其损失函数与解的真实误差在能量范数下相符，因此我们可以知道训练过程进行得如何，并在达到所需精度的真实误差下停止训练来获得 PDE 解的神经网络逼近。

Jan, 2024

基于物理知识的神经网络在高频和多尺度问题上的应用及迁移学习

提供了使用转移学习来增强 PINN 的鲁棒性和收敛性的训练方法，通过两个案例研究发现转移学习可以有效训练 PINN 在低频问题到高频问题的近似解，同时减少了网络参数，所需数据点和训练时间。同时提供了优化器选择和使用转移学习解决更复杂问题的指南。

Jan, 2024

PPINN: 时变偏微分方程的 Parareal 物理信息神经网络

该研究介绍了一种名为 PPINN 的新型神经网络结构，可在短时间内解决时间依赖性偏微分方程问题，通过将一个长时间问题分解成许多由粗粒度求解器监督的独立短时间问题，PPINN 可以在几个迭代中实现收敛并获得显著加速。

Sep, 2019

基于物理知识的神经网络框架用于障碍相关方程建模

本文探索使用 PINNs 求解障碍相关的偏微分方程，通过多种场景对线性和非线性、规则和不规则障碍下的 PDE 进行求解，表现良好。

Apr, 2023

运算符学习增强的基于物理信息的神经网络用于解决具有尖锐解的偏微分方程

在这项研究中，我们提出了一种名为 OL-PINN 的新型框架，将 DeepONet 与 PINN 相结合来解决具有尖锐解决方案的问题，并成功解决了非线性扩散反应方程、Burgers 方程和高雷诺数下的不可压纳维 - 斯托克斯方程等问题，提高了准确性和鲁棒性，同时广泛应用于解决逆问题。

Oct, 2023

iPINNs: 物理信息神经网络的增量学习

本文提出了一种增量 PINNs (iPINNs) 的方法，它可以连续学习多个偏微分方程（PDE），从而提高了对预测的准确性。

Apr, 2023

物理知识驱动的基于神经网络的偏微分方程求解的辅助任务学习

本研究提出了基于辅助任务学习的物理信息神经网络（ATL-PINNs），提供了四种不同的辅助任务学习模式，并比较了它们与原始 PINNs 的性能，研究发现辅助任务学习模式可以极大地提高解决方案的准确性，相对于原始单一任务 PINNs 有最大性能提升 96.62％（平均 28.23％），是第一次在物理信息学习领域引入了辅助任务学习模式。

Jul, 2023

VS-PINN: 使用变量缩放方法解决具有严格行为的偏微分方程的物理约束神经网络的快速高效训练

提出一种使用变量缩放技术训练物理信息神经网络（PINNs）的新方法，通过对神经切线核（NTK）的分析提供理论证据并证明这种方法确实可以提高 PINNs 的性能。

Jun, 2024