广义教师强制学习混沌动力学
本文介绍了一种基于线性样条基函数扩展动态可解释的分段线性循环神经网络(PLRNN)的方法,用于近似任意非线性动态系统。我们采用BPTT与教师强制以及快速可接受的变分推理两种框架对系统进行训练,并在各种动态系统基准测试上表明,这种方法具有更好的重建能力和更少的参数和尺寸。
Jul, 2022
本文利用多模态变分自动编码器、稀疏教师强制和循环神经网络,从不同的时间序列数据模态中,重建出非线性动力系统的基本特性(data-generating DS),并实现了较好的效果。
Dec, 2022
运用遍历理论引入机器学习的新型训练方式,强制实现系统中的动力学不变量,以提高在有限数据情况下对混沌动力学系统的长期预测能力,用回声状态网络体系结构进行演示,并以Lorenz1996混沌动力学系统和光谱拟地转模型为测试案例,取得了丰硕成果。
Apr, 2023
通过使用基于数据的方法,该研究提出了Long Short-Term Memory (LSTM)网络来推断未观察到的(隐藏的)混沌变量的动力学,时间预测完全状态的演变并推断其稳定性。
May, 2023
利用循环神经网络 (RNNs) 建立模型和预测顺序数据,推理系统动力学(DS);利用 DS 理论(DST) 增进对训练后的 RNNs 解决复杂任务的理解,以及训练过程本身;研究证明 ReLU-based RNNs 中某些分叉确实与梯度趋近于无穷大或零有关;引入一种新的启发式算法检测 ReLU-based RNNs 中的所有稳定点和 k-循环,以及它们的存在和稳定域,从而在参数空间中获得分叉流形;算法具有精确结果且具有良好的扩展行为。
Oct, 2023
通过从嘈杂和稀疏的可观测数据中识别微分方程,我们开发了一个框架,学习建模复杂动力行为的数学表达式,从而填补了基于经验数据而非已知物理机制的系统的数学模型的空白。
Dec, 2023
通过分析网络轨迹和学习过程中的动力学特性,研究了浅层神经网络在简单分类任务中的演化过程,发现不同学习速率下的动力学和轨道稳定性,这一发现与神经网络和动力学系统理论的常见智慧相对照,为动力系统理论、网络理论和机器学习之间的相互交流提供了贡献。
Apr, 2024
本研究解决了如何有效整合来自多个动态领域的数据,以生成系统动态模型的核心问题。提出了一种层次化的方法,能够在保留单一领域动态特性的同时,利用群体级别的信息,促进了对短时间序列的有效重建。研究显示,这种方法能够发现相似动态数据集的共同低维特征空间,并对控制参数与动态之间的关系进行高效解释,具有重要的应用潜力。
Oct, 2024
本文研究了动力系统建模中的挑战,提出了几乎线性递归神经网络(AL-RNN),该方法能够从时间序列数据中自动生成最简约的分段线性表示。研究表明,AL-RNN能有效且数据驱动地发现已知的拓扑最小分段线性表征,显著增强了动力系统的可解释性,从而促进数学与计算分析的进展。
Oct, 2024
本研究解决了利用短时间序列数据推断神经系统生成动力学模型的挑战。我们提出了一种新算法,能够有效克服现有方法在处理信号过滤特性时的局限性,并展示了其在重建动态系统及其几何特性方面的高效性。通过这一研究,可能推动脑动态分析的自动化进程。
Nov, 2024