本文回顾了科学机器学习的最新进展，特别关注物理启发式神经网络在预测物理系统结果和从噪声数据中发现隐藏的物理方面的有效性。我们提出了一个神经网络体系结构，该结构对梯度病理具有更强的鲁棒性，并提出了一个学习率退火算法，通过使用模型训练期间的梯度统计数据来平衡复合损失函数中不同项之间的相互作用。所有伴随本手稿的代码和数据都是公开可用的。

Jan, 2020

本篇调查报告讲述了物理资讯机器学习在机器学习与数学物理模型的交叉领域中的应用和发展，它以物理机制为前提，在模型结构、优化器、推断算法和特定领域的应用（如逆向工程设计和机器人控制）等方面将不同的物理先验形式编码成模型，随着跨领域的研究，增强模型精度，提高效率，并对相关学科领域解决长期存在的问题提供可贵帮助。

Nov, 2022

本文探讨了物理知识驱动的机器学习（PIML）方案的数据并行加速，重点是针对多个图形处理单元（GPU）架构的物理知识驱动的神经网络（PINNs）。通过使用基于Horovod的训练框架详细说明了开发规模鲁棒的 PHP 模型的协议，包括对广义误差的新收敛界限的$h$分析，我们将加速做法应用于规模鲁棒的 PIML 模型，并且通过大量实验验证了其鲁棒性和一致性，为实现各种真实世界模拟提供了广泛的可能性。

Feb, 2023

本文提出了一种基于图嵌入的物理信息神经网络框架（GPINN），使用拓扑空间而非传统的欧几里得空间来执行PINN，以提高问题解决效率。该框架将拓扑数据集成到神经网络的计算中，显著提高了PINN的性能。通过Fiedler向量引导选择额外的维度，将额外的维度注入输入空间，以封装图的空间特征，同时保留原空间的属性。此外，本文进行了两个案例研究，证明GPINN在与传统PINN相比，特别是在捕获解的物理特征方面具有显著的性能优势。

Jun, 2023

本文概述了物理相关机器学习在动态系统建模和控制方面的最新进展、基本概念和方法、工具及应用。

Jun, 2023

该研究提出了一种新方法，通过融合系统常微分方程所基于的神经振荡器，有效地捕捉长期依赖关系并解决爆炸梯度问题，从而增强了物理先验机器学习模型在复杂物理问题中的泛化能力。通过在时间依赖的非线性偏微分方程和双调和梁方程中进行实验，证明了该方法在基准问题上的优越性能，显著提高了物理先验机器学习的泛化能力，为训练数据之外的外推和预测提供了准确的解决方案。

Aug, 2023

通过结合经典数值解法和物理感知框架的方法，本研究在三维非规则几何体上测试了基于图神经网络的解决偏微分方程问题的可行性。

Oct, 2023

通过构建一系列的网络，其中一个步骤的输出可以作为下一步训练的低保真输入，我们提出了一种用于训练物理信息神经网络和运算网络的新型多保真度框架，通过迭代过程中逐步增加模型的表达能力，该方法的迭代特性使我们能够逐步学习直接难以学习的解的特征，通过非线性摆、波动方程和粘性Burgers方程等基准问题，我们展示了如何通过堆叠方法来提高物理信息神经网络和运算网络的准确性和减少所需的规模。

Nov, 2023

本文通过研究物理信息驱动的神经网络（PINNs）来编码控制方程，并评估其在两个不同系统的实验数据上的表现。我们发现，在简单的非线性摆系统中，PINNs在理想数据情况下胜过了等效的无信息神经网络（NNs），在10个线性间隔和10个均匀分布的随机训练点上的准确度分别提高了18倍和6倍。在使用来自实验的真实数据进行类似测试的情况下，PINNs相对于NNs的准确度提高了9.3倍和9.1倍，分别对应于67个线性间隔和均匀分布的随机点。此外，我们还研究了物理信息驱动模型在物理系统中的可行性，并选择FPGA作为部署计算的基板。鉴于此，我们使用了一台PYNQ-Z1 FPGA进行实验，并找出了与时间相干感知和空间数据对齐相关的问题。根据提出的系统架构和方法，我们讨论了从这项工作中获得的见解，并列出了未来工作计划。

Jan, 2024

通过在图结构数据中学习，物理启发图神经网络在解决常见图神经网络挑战（如平滑过度、压缩过度和异质适应）方面取得了显著的性能。本文通过在传播过程中引入额外的节点和重新连接具有正负权重的连接来丰富图结构，在理论上验证了通过我们的方法增强的图神经网络可以有效地解决平滑过度问题，并对压缩过度具有鲁棒性。此外，我们对重连后的图进行谱分析，证明相应的图神经网络可以适应同质化和异质化的图。在同质化、异质化图以及长期图数据集的基准验证中，我们通过我们的方法增强的图神经网络显著优于原始版本。

Jan, 2024