Aug, 2023

超高 LoRA

PDF
TL;DR使用 LoRA-based HyperPINN 模型，在减少参数预测的维度的同时，通过添加基于物理方程的损失组件，显著改善了模型的泛化能力，使其能够有效地求解参数化偏微分方程，例如 Burger's 方程和 Navier Stokes: Kovasznay 流，且相比于其他基准模型，平均减少了 8 倍的参数预测，而不影响模型精度。
physics-informed neural networkshypernetworkslorahyperpinnparameterized pdes
发现论文，激发创造
  • 基于超网络的元学习低秩物理知情神经网络

    通过提出一种轻量级低秩 PINN 和相关的超网络元学习算法，本研究有效地解决了在各种工程和应用科学应用中需要对多个输入参数进行重复数值模拟的问题，并展示了该方法在克服 PINN 的 “失败模式” 方面的有效性。

    Oct, 2023

  • 鲁棒的物理信息神经网络

    我们介绍了一种鲁棒版本的物理启发式神经网络（RPINN）来近似求解偏微分方程（PDEs），该方法利用能量范数计算的残差和格拉姆矩阵的倒数构建了损失函数，在两个空间维度的拉普拉斯问题和对流扩散问题中进行了测试，结果表明 RPINN 是一种鲁棒的方法，其损失函数与解的真实误差在能量范数下相符，因此我们可以知道训练过程进行得如何，并在达到所需精度的真实误差下停止训练来获得 PDE 解的神经网络逼近。

    Jan, 2024

  • 物理启发式神经网络的增广拉格朗日松弛方法

    本研究提出了一种基于增广拉格朗日方法的 Physics-Informed Neural Networks (AL-PINNs) 算法，用于优化偏微分方程的残差问题，并通过数值实验证明了该方法相较于现有的自适应损失平衡算法具有更小的相对误差。

    Apr, 2022

  • 基于信息受控神经网络的多尺度深度学习框架

    使用物理信息神经网络（PINN）来解决具有多尺度问题的新框架，通过重新构建损失函数并应用不同数量的幂运算到损失项上以使损失函数中的项具有相近的数量级，并且引入分组正则化策略以解决不同子域中变化显著的问题，该方法使得具有不同数量级的损失项可以同时优化，推动了 PINN 在多尺度问题中的应用。

    Aug, 2023

  • RoPINN: 区域优化的物理信息神经网络

    该研究论文介绍了物理知识驱动的神经网络在求解偏微分方程中的应用，并提出了一种新的区域优化训练范式，通过在连续邻域区域进行模型优化，有效降低了模型的泛化误差，尤其对于高阶约束的偏微分方程。该新范式产生了一种实用的训练算法 RoPINN，通过简单且有效的 Monte Carlo 抽样方法在信任区域内平衡了抽样效率和泛化误差。实验证明，RoPINN 显著提升了各种 PINNs 在多种偏微分方程上的性能，而无需额外的反向传播或梯度计算。

    May, 2024

  • 基于物理知识的神经网络框架用于障碍相关方程建模

    本文探索使用 PINNs 求解障碍相关的偏微分方程，通过多种场景对线性和非线性、规则和不规则障碍下的 PDE 进行求解，表现良好。

    Apr, 2023

  • 解决双曲型偏微分方程的深度学习框架：第一部分

    开发了一种基于物理信息的深度学习框架，用于近似解非线性偏微分方程，可以在不预先了解解的性质或不连续点的位置的情况下发展出震荡或不连续的解。

    Jul, 2023

  • 基于物理知识的神经网络在高频和多尺度问题上的应用及迁移学习

    提供了使用转移学习来增强 PINN 的鲁棒性和收敛性的训练方法，通过两个案例研究发现转移学习可以有效训练 PINN 在低频问题到高频问题的近似解，同时减少了网络参数，所需数据点和训练时间。同时提供了优化器选择和使用转移学习解决更复杂问题的指南。

    Jan, 2024

  • 运算符学习增强的基于物理信息的神经网络用于解决具有尖锐解的偏微分方程

    在这项研究中，我们提出了一种名为 OL-PINN 的新型框架，将 DeepONet 与 PINN 相结合来解决具有尖锐解决方案的问题，并成功解决了非线性扩散反应方程、Burgers 方程和高雷诺数下的不可压纳维 - 斯托克斯方程等问题，提高了准确性和鲁棒性，同时广泛应用于解决逆问题。

    Oct, 2023

  • 物理知识指导神经网络的可能失效模式表征

    本文研究了物理知识对神经网络的影响，尤其是对物理意义的学习。研究发现，使用以前的方法，神经网络会容易受到微妙的问题的困扰。为了解决这个问题，我们提出了课程规范化和序列到序列学习两种新的方法。通过使用这两种方法，我们可以取得比以前更好的结果。

    Sep, 2021