Sep, 2019

辛泊克循环神经网络

PDF
TL;DR本文提出了一种名为对称循环神经网络的学习算法，其可以从观察到的轨迹中捕获物理系统的动力学，并通过神经网络模型系统的哈密顿函数，结合较为复杂的多步训练和初始状态优化来解决哈密顿系统所涉及的数值问题，从而成功的处理包括噪声和复杂系统在内的哈密顿系统及其他动力学系统。并提出如何用扩展的 SRNN 集成方案来处理像弹球这样的非常振动力学系统。
symplectic recurrent neural networkshamiltonian functionsymplectic integrationmultiple-step trainingstiff dynamical systems
发现论文，激发创造
  • Taylor 级数形式的辛神经网络用于哈密顿系统

    提出一种有效且轻量级的学习算法 —— 辛泰勒神经网络（Taylor-nets），用于基于稀疏、短期观察进行连续、长期预测复杂的哈密顿动态系统。该算法基于一种新颖的神经网络架构，它包含两个嵌入对称 Taylor 级数展开形式术语的子网络，并将四阶辛普勒积分器与神经 ODE 框架相结合，以学习目标系统的连续时间演化，同时保持其辛结构。在较小的训练数据、短训练周期（预测周期的 6000 倍）的情况下，该模型表现出了独特的计算优点，具有较高的预测精度、收敛速度和鲁棒性。

    May, 2020

  • 稀疏辛合成神经网络

    利用稀疏回归方法，结合四阶辛普森积分法实现了对哈密顿动力学系统的建模，能够在数据有限噪声较大的情况下较好地预测和求出系统规律。

    Jun, 2020

  • 用神经网络学习哈密顿系统的轨迹

    本文提出了一种使用提高了的积分方案的 Hamilton 神经网络，结合使用深度隐藏的物理模型来对保守系统进行数值模拟的方法，可以成功处理低采样率、嘈杂和不准确观测值。

    Apr, 2022

  • 机器学习在动态系统建模与分析中的应用

    使用物理上知悉的神经网络方法来分析含有一种运动第一积分的非线性哈密顿系统，并提出了一种结构，将现有的哈密顿神经网络结构与 Adaptable Symplectic 循环神经网络相结合，可以在整个参数空间内预测动力学，保留哈密顿方程以及相空间的辛结构。同时，利用神经网络的高维非线性能力，结合 Long Short Term Memory 网络进行判断嵌入定理的实现，构造系统的延迟嵌入，并将拓扑不变吸引子映射到真实形式。该方法对于单参数势能有效，并且即使在较长时间内也能提供准确的预测结果。

    Jul, 2023

  • 不可分离的辛神经网络

    提出了一种新的神经网络架构 Nonseparable Symplectic Neural Networks (NSSNNs)，可以从有限的观察数据中发现并嵌入非可分离 Hamiltonian 系统的辛结构，从而预测分离和非分离 Hamiltonian 系统，包括混沌漩涡流。

    Oct, 2020

  • 用对称控制神经网络提高模拟精度

    本文通过应用 Hamilton 神经网络来学习和利用物理系统中保守量的对称约束，通过适当的损失函数来实现周期坐标的强制，从而在简单的经典动力学任务中实现了更高的准确性，进而拟合出网络中的隐向量的解析式，从中发现利用了保守量，如角动量。

    Apr, 2021

  • 循环神经网络合成用于动态系统模拟

    论文介绍了一种基于早期理论结果的算法，该算法基于反向传播和矩阵操作，可以训练前馈神经网络来近似动态系统，并将其转换为递归网络，以模拟原始系统的动态行为。

    Dec, 2015

  • 循环神经网络在序列学习中的关键评估

    本文对于近三十年来产生和实践了重要的循环神经网络（RNN），LSTM 和 BRNN 等模型的研究进行综述，旨在提供一个自成体系的最前沿阐述和历史视角，并引用了相关研究文献。

    May, 2015

  • 四元数循环神经网络

    研究提出了一种用四元数代替实数的递归神经网络来处理多维特征，从而更好地模拟长期依赖，并在语音识别应用中表现出更好的性能和更紧凑的表示方式。

    Jun, 2018

  • 学习古典可积系统的对称性

    本研究通过神经变换来学习哈密顿机械系统的对称性，需要新的网络体系结构来参数化辛变换，以维持哈密顿结构，并学习了可积模型的结构，这是神经变换适应一个受限于反演之外的家庭的典型示例。

    Jun, 2019