基于标签传播的物理信息神经网络与高斯过程训练方案
本文综述了物理信息机器学习在解决复杂物理和生物系统中的应用,重点介绍了使用 PINN 和 PIGN 网络的物理信息神经网络和图神经网络的应用以及其在大规模工程问题中的扩展。
May, 2022
提出了利用物理知识来升级神经网络模型以解决优化问题的方法,通过使用修正线性单元和分段线性逼近的双曲正切激活函数,针对三个不同的案例进行实验,结果表明这种升级模型比传统模型更接近于全局最优解,且更有效地优化了 CPU 时间。
Feb, 2023
本研究提出了一种新的神经网络监督方法,它通过指定输出空间上应该保持的约束条件来监督神经网络。这些约束条件是从先前的领域知识中派生出来的,并能够在真实世界和计算机仿真视觉任务中有效地训练卷积神经网络,减少了对已标注的训练数据的需求,但对正确编码先前的知识引入了新的挑战。
Sep, 2016
本文提出了一种利用变分方法处理非线性高斯过程映射中半描述输入的高斯过程框架,完美解决半监督学习和半描述学习问题,并可控制不确定性和补全缺失数据,以及在迭代预测和回归 / 分类中显著提高性能的实验结果。
Sep, 2015
本文回顾了科学机器学习的最新进展,特别关注物理启发式神经网络在预测物理系统结果和从噪声数据中发现隐藏的物理方面的有效性。我们提出了一个神经网络体系结构,该结构对梯度病理具有更强的鲁棒性,并提出了一个学习率退火算法,通过使用模型训练期间的梯度统计数据来平衡复合损失函数中不同项之间的相互作用。所有伴随本手稿的代码和数据都是公开可用的。
Jan, 2020
通过在图结构数据中学习,物理启发图神经网络在解决常见图神经网络挑战(如平滑过度、压缩过度和异质适应)方面取得了显著的性能。本文通过在传播过程中引入额外的节点和重新连接具有正负权重的连接来丰富图结构,在理论上验证了通过我们的方法增强的图神经网络可以有效地解决平滑过度问题,并对压缩过度具有鲁棒性。此外,我们对重连后的图进行谱分析,证明相应的图神经网络可以适应同质化和异质化的图。在同质化、异质化图以及长期图数据集的基准验证中,我们通过我们的方法增强的图神经网络显著优于原始版本。
Jan, 2024
该研究论文讨论了一种基于变分自编码器(VAE)的物理约束生成神经网络模型,用于模拟人体运动对电磁场的影响并融合电磁体绕射原理。通过与经典绕射基于电磁工具和全波电磁体模拟进行验证。
May, 2024
本文中,我们介绍了一种更优的传统标签传播算法(LPA)的分析方法,它可以利用有用的先验信息,具体而言是无标签数据上的概率假设标签。我们提供了一个误差界限,它利用了底层图形的局部几何特性和先前信息的质量。我们还提出了一个框架来整合多个来源的嘈杂信息。我们在多个基准弱监督分类任务上演示了我们的方法的能力,并展示了对现有半监督和弱监督方法的改进。
Oct, 2022
本文提出了一种基于物理启发式神经网络的深度学习框架,用于量化和传播受非线性微分方程支配的系统中的不确定性。通过建立概率表示,对系统状态进行训练以满足给定的物理定律表达式,并提供了一种有效训练深度生成模型作为物理系统的代理的规范化机制,在这些系统中,数据采集成本高,训练数据集通常较小。该框架提供了一种灵活的方式,用于因输入随机性或观测噪声而导致的物理系统输出不确定性的表征,完全绕过了重复采样昂贵的实验或数值模拟器的需求。作者通过一系列例子证明了方法的有效性,这些例子涉及非线性守恒定律中的不确定性传播以及直接从嘈杂的数据中发现流体通过多孔介质的本构规律。
Nov, 2018
通过结合机器学习技术和基于物理推理的方法,本文引入一系列可能的高斯过程模型,以提高基于有限数据的预测模型建立能力。这些方法可以显著减少对数据收集的依赖,并增强模型的可解释性。
Sep, 2023