Dec, 2023

波尔德温演化算法实现的通用神经物理求解器

PDF
TL;DR通过对生物学中的鲍德温效应的生物学透镜的研究，本文首次研究了学习能够同时概括整个物理任务系列的物理知情神经网络（Physics-informed neural networks）的潜力。借鉴能够快速学习、预测和快速适应环境的早成品种的神经发育，我们构想了一种对物理学的高效学习产生强偏差的预连结强度的物理知情神经网络。为此，我们将进化选择压力（通过在一系列任务上的熟练程度进行指导）与终身学习（以在更小的一部分任务子集上专精）相结合，以生成展示出快速和符合物理规律的预测能力的物理知情神经网络，可以适应一系列充满挑战的实例问题。与通过梯度下降元学习的物理知情神经网络相比，鲍德温方法在预测准确性上提供了数量级的提升，并大大降低了计算成本。本文标志着物理知情神经网络作为通用物理求解器的元学习迈向了一个新的台阶。
physics-informed neural networksbaldwin effectneurodevelopmentevolutionary selection pressuremeta-learning
发现论文，激发创造
  • 通过物理知识指导的神经网络科学机器学习：现状和未来展望

    文章综述了物理学启发的神经网络（PINN）的文献，并介绍了其特点和优缺点。此外，研究还包括了使用 PINN 以及它的许多其他变体解决 PDE、分数方程、积分微分方程和随机 PDE 的广泛应用领域，以及它们的定制化方法，如不同的激活函数、梯度优化技术、神经网络结构和损失函数结构。虽然该方法被证明在某些情况下比有限元方法更可行，但它仍面临理论问题尚未解决。

    Jan, 2022

  • 神经进化胜过随机梯度下降用于物理信息神经网络

    本研究分析了使用梯度下降算法在 PINN 中产生的复杂度和粗糙性，并证明使用神经进化算法作为 PINN 的替代方法可能更好。基准问题和基线结果表明，使用 JAX 实现神经进化可获得比标准实现快几个数量级的收敛速率。

    Dec, 2022

  • 基于物理信息的神经网络及其在物理信息机器学习中的相关模型的数值分析

    对物理启发机器学习中的物理信息神经网络和相关模型的数值分析结果进行综合评述，并重点阐述了在近似偏微分方程时 PINN 所产生的误差在各个组成部分的行为，以及与 PDE 类型和基础域维度相关的逼近、概括和训练误差的可用结果。同时阐明了解的稳定性和解的规则性对误差分析的作用，最后通过数值结果来说明训练误差对物理启发机器学习中各种模型整体性能的不利影响。

    Jan, 2024

  • 训练物理思维神经网络的专家指南

    通过提出一系列最佳实践，改进物理信息神经网络（PINNs）的训练效率和整体准确性，还展示了不同架构选择和训练策略如何影响结果模型的测试准确性。

    Aug, 2023

  • 二值结构化物理信息神经网络用于求解具有快速变化解的方程

    通过在前馈神经网络中嵌入偏微分方程所描述的物理信息，物理信息导向的神经网络（PINNs）作为深度学习的一种有前途的方法，用于解决偏微分方程（PDEs）。然而，尽管 PINNs 表现出卓越的性能，但它们在处理解快速变化的方程时可能面临困难。为了解决这些问题，我们提出了一种二进制结构的物理信息导向神经网络（BsPINN）框架，其中采用二进制结构神经网络（BsNN）作为神经网络组件。通过利用相对于完全连接的神经网络减少神经元连接的二进制结构，BsPINNs 在更有效和高效地捕捉解的局部特征方面表现出色。在一系列解决 Burgers 方程、Euler 方程、Helmholtz 方程和高维 Poisson 方程的数值实验中，BsPINNs 展现出优异的收敛速度和更高的准确性，相较于 PINNs。从这些实验中，我们发现 BsPINNs 解决了 PINNs 中增加的隐藏层导致过度平滑的问题，并防止了 PDEs 解不光滑导致准确性下降的问题。

    Jan, 2024

  • AutoPINN: 当自动机器学习遇上基于物理建模的神经网络

    本文介绍了基于物理知识的神经网络（Physics-Informed Neural Networks）可以用于预测无法通过物理工具观测到的关键参数，并提出了一种称为 AutoPINN 的框架，以自动化设计基于物理知识的神经网络模型，该模型结合了自动机器学习技术和针对特定资源限制的搜索策略，可以提高模型准确度，减少设计时间。

    Dec, 2022

  • 基于物理知识的神经网络在高频和多尺度问题上的应用及迁移学习

    提供了使用转移学习来增强 PINN 的鲁棒性和收敛性的训练方法，通过两个案例研究发现转移学习可以有效训练 PINN 在低频问题到高频问题的近似解，同时减少了网络参数，所需数据点和训练时间。同时提供了优化器选择和使用转移学习解决更复杂问题的指南。

    Jan, 2024

  • SimPINNs：基于模拟驱动的物理信息神经网络提升非线性逆问题性能

    应用深度学习技术解决逆问题的一种新方法，通过利用已知物理模型生成的模拟数据和观测数据相结合的混合损失函数对物理系统中未知参数进行推断，实验证明该方法在轨道修复问题上优于标准的物理信息神经网络（PINN），提供了更高的准确性和鲁棒性。

    Sep, 2023

  • 物理资讯神经网络与图形网络的可扩展算法

    本文综述了物理信息机器学习在解决复杂物理和生物系统中的应用，重点介绍了使用 PINN 和 PIGN 网络的物理信息神经网络和图神经网络的应用以及其在大规模工程问题中的扩展。

    May, 2022

  • 传统线性求解器能否被基于物理启发的深度学习所替代？

    本篇论文探讨了 PINN 作为线性求解器的潜力，在 Poisson 方程中评估了不同参数下的表现和精度，并且阐述了传递学习的关键作用。同时，论文也提出了将 PINN 与传统线性求解器相结合的方法，以解决高频解的问题，并表明该混合策略在发展具有潜力的新型线性求解器方面具有前景。

    Mar, 2021