本文利用多模态变分自动编码器、稀疏教师强制和循环神经网络，从不同的时间序列数据模态中，重建出非线性动力系统的基本特性（data-generating DS），并实现了较好的效果。

Dec, 2022

运用遍历理论引入机器学习的新型训练方式，强制实现系统中的动力学不变量，以提高在有限数据情况下对混沌动力学系统的长期预测能力，用回声状态网络体系结构进行演示，并以 Lorenz1996 混沌动力学系统和光谱拟地转模型为测试案例，取得了丰硕成果。

Apr, 2023

本文介绍了一种基于线性样条基函数扩展动态可解释的分段线性循环神经网络（PLRNN）的方法，用于近似任意非线性动态系统。我们采用 BPTT 与教师强制以及快速可接受的变分推理两种框架对系统进行训练，并在各种动态系统基准测试上表明，这种方法具有更好的重建能力和更少的参数和尺寸。

Jul, 2022

通过将数据分解为由简单动态单元解释的片段并研究这些切换的行为，我们展示了一种新的模型类型 —— 递归式切换线性动态系统，以提供更深入的洞察力，并利用近年来的算法进展在这些模型中使用近似推理使贝叶斯推理变得轻松、快速且可扩展。

Oct, 2016

利用循环神经网络 (RNNs) 建立模型和预测顺序数据，推理系统动力学 (DS)；利用 DS 理论 (DST) 增进对训练后的 RNNs 解决复杂任务的理解，以及训练过程本身；研究证明 ReLU-based RNNs 中某些分叉确实与梯度趋近于无穷大或零有关；引入一种新的启发式算法检测 ReLU-based RNNs 中的所有稳定点和 k - 循环，以及它们的存在和稳定域，从而在参数空间中获得分叉流形；算法具有精确结果且具有良好的扩展行为。

Oct, 2023

本文提出了一个针对混沌系统长期预测的框架，该框架旨在保留描述动力学的不变吸引子的不变统计特性。我们考虑两种方法来处理噪声数据的多环境设置中的训练，一种是基于观察到的动力学和神经操作器输出之间的最优输运距离的损失，另一种是不需要任何专业先前知识的对比学习框架。通过在各种混沌系统上进行实证验证，我们的方法在保持混沌吸引子的不变测度方面表现出很好的效果。

Jun, 2023

通过系统实证分析，本文发现在文本生成等实际应用场景下，基本的 RNN 或 LSTM RNN 的训练过程中不会表现出混沌行为，这一发现说明未来的研究应该将方向放在非线性动力学的另一个方面上。

Apr, 2020

现代生成式机器学习模型展示出令人惊讶的能力，能够创造出超越其训练数据的逼真产出，如逼真的艺术作品、精确的蛋白结构或对话文本。这些成功表明生成模型学会了有效地参数化和采样任意复杂的分布。本文旨在将经典作品与大规模生成统计学习中的新兴主题联系起来，包括经典吸引子重构、隐空间模型中的潜在表示学习等。还介绍了早期利用符号近似进行比较的努力，与现代努力进行黑盒统计模型的精简和解释相关。新兴的跨学科研究桥接了非线性动力学和学习理论，如用于复杂流体流动的算子理论方法，或者检测生物数据集中打破了详细平衡的情况。我们预计未来的机器学习技术可能会重新审视非线性动力学中的其他经典概念，如信息传输衰减和复杂性 - 熵权衡问题。

Nov, 2023

本文介绍了一种增强学习的动力系统方法，通过在潜在流形上建模震荡阻尼振子，将动力系统的非线性编码到空间曲率中，从而实现在线环境的本地自适应和障碍物避免，并展示了在合成矢量场和实际世界中学习 3D 机器人末端执行器运动的有效性。

Mar, 2024

引入了一种基于术语重写的动力系统的代数模拟，证明了递归函数应用于迭代重写系统的输出定义了一类模型，其中包括循环神经网络、图神经网络和扩散模型等所有主要的动态机器学习模型架构。从范畴论的角度来看，这些代数模型也是描述动态模型组成性的一种自然语言。此外，我们提出这些模型为将上述动态模型推广到结构化或非数值数据（包括 “混合符号 - 数值” 模型）的学习问题提供了一个模板。

Nov, 2023