KAM 理论遇上统计学习理论：具有非零训练损失的哈密顿神经网络

AAAIFeb, 2021

KAM 理论遇上统计学习理论：具有非零训练损失的哈密顿神经网络

KAM Theory Meets Statistical Learning Theory: Hamiltonian Neural Networks with Non-Zero Training Loss

Yuhan Chen, Takashi Matsubara, Takaharu Yaguchi

TL;DR本研究将统计学习理论与 Kolmogorov-Arnold-Moser 理论相结合，提供了对 Hamiltonian neural network 学习误差不为零时的行为进行理论分析的方法，并提供了 Hamiltonian neural network 的广义误差界限。

Abstract

Many physical phenomena are described by hamiltonian mechanics using an energy function (the Hamiltonian). Recently, the hamiltonian neural network, which approximates the Hamiltonian as a neural network, and its

hamiltonian mechanics hamiltonian neural network statistical learning theory kolmogorov-arnold-moser theory perturbation theory

发现论文，激发创造

端口 - 哈密顿神经网络用于学习显式时变动力系统

本文提出了一种基于端口哈密顿形式的神经网络模型用于学习非自主系统中的动态学，能够高效地恢复非线性物理系统的动力学，时间依赖力和耗散系数，并能够学习和预测混沌系统，如 Duffing 方程。

Jul, 2021

使用具有输出误差噪声模型的哈密顿神经网络进行基于物理的学习

本文提出了一种基于输出误差 Hamiltonian Neural Network (OE-HNN) 建模方法，以解决带有输入和嘈杂状态测量的实物系统建模的问题，并扩展了 HNNs 的广义 Hamiltonian 理论，演示了此方法相对于传统的 HNNs 在建模性能方面的卓越优势。

May, 2023

基于量子神经切向核的表示学习

本研究通过分析神经切向核理论，定义了量子神经切向核，推导出其与损失函数之间的动力学方程，探讨了基于变分量子电路的量子机器学习和优化问题的培训动态的分析结果和数值模拟实验的支持结果。

Nov, 2021

机器学习在动态系统建模与分析中的应用

使用物理上知悉的神经网络方法来分析含有一种运动第一积分的非线性哈密顿系统，并提出了一种结构，将现有的哈密顿神经网络结构与 Adaptable Symplectic 循环神经网络相结合，可以在整个参数空间内预测动力学，保留哈密顿方程以及相空间的辛结构。同时，利用神经网络的高维非线性能力，结合 Long Short Term Memory 网络进行判断嵌入定理的实现，构造系统的延迟嵌入，并将拓扑不变吸引子映射到真实形式。该方法对于单参数势能有效，并且即使在较长时间内也能提供准确的预测结果。

Jul, 2023

Hamiltonian 神经网络

本研究利用 Hamilton 力学来为神经网络提供更好的归纳偏差，使其能够在自我监督的状态下学习并遵守物理中的守恒定律；研究表明我们的模型在能量守恒等问题上具有更快的训练速度和更好的泛化性能，并且是一个完全可逆的时间模型。

Jun, 2019

通过 Koopman 算子理论优化神经网络

本文针对 Koopman 算子理论与神经网络训练的相关性，提出了一种应用 Koopman 算子理论实现神经网络权重和偏置快速训练的方法并在一定时间范围内得到了验证，而且这种方法优于目前主流的基于梯度下降的方法 10 倍以上。未来的工作将着重于扩展这种方法到更广泛的网络分类和更大的训练时间间隔。

Jun, 2020

学习哈密顿神经库普曼运算符，同时保持和发现守恒定律

基于观测数据和噪声扰动，准确地发现和预测动力学仍然是一项重要的挑战。我们提出了汉密尔顿神经库普曼算子（HNKO），它集成了数学物理知识以学习库普曼算子，并使其可以自动维持并发现守恒定律。我们通过使用许多代表性物理系统，甚至具有数百或数千个自由度的系统，展示了 HNKO 及其扩展的优越性。我们的结果表明，在学习框架中适当地提供底层系统的先验知识和数学理论可以增强机器学习在解决物理问题上的能力。

Jun, 2024

量子概率哈密顿学习用于生成建模和异常检测

本研究探讨了学习和利用孤立量子力学系统的哈密顿量及其变分热态估计进行数据分析技术的可能性，并使用量子哈密顿基模型的方法进行产生建模，证明可以用混合态表示这样的大型强子对撞机数据。在进一步步骤中，我们将学习到的哈密顿量用于异常检测，表明不同样本类型一旦被视为量子多体系统，就可以形成不同的动力行为。利用这些特征来量化样本类型之间的差异。我们的研究结果表明，设计用于场论计算的方法可以在机器学习应用中加以利用，以将理论方法应用于数据分析技术。

Nov, 2022

用神经网络学习哈密顿系统的轨迹

本文提出了一种使用提高了的积分方案的 Hamilton 神经网络，结合使用深度隐藏的物理模型来对保守系统进行数值模拟的方法，可以成功处理低采样率、嘈杂和不准确观测值。

Apr, 2022

物理增强的神经网络预测有序与混沌

使用结构和对称性的 Hamilton 神经网络预测非线性系统从秩序到混沌的相空间轨迹，以亨农 - 海尔斯系统为例进行实证研究，该技术的实用性和混沌广泛存在性启示着广泛的应用前景。

Nov, 2019