LINOCS: 基于网络操作的连续稳定性的前瞻推理
本文介绍了一种网络体系结构,称为 dynoNet,利用线性动态算子作为基本构建块。由于这些块的动态性质,dynoNet 网络专为序列建模和系统识别目的而设计。运用现有的深度学习软件,定义了线性动态算子的反向传播行为,这使得包含线性动态算子和其他可微单元的结构化网络的端到端训练成为可能。本文通过在知名系统识别基准测试上展示了所提出的方法的有效性。
Jun, 2020
对于展现时空动态响应的系统的演化进行预测是促进科学创新的关键技术,传统基于方程的方法需要大规模并行计算平台和大量的计算成本。相比之下,我们提出了一种名为 Latent Dynamics Network 的新型架构,该架构使用降维和深度学习算法来描述系统演化的低维潜在空间,从而预测空间依赖场对外部输入的时间演化,并在几个测试案例上验证了该方法的高效性和精确性。
Apr, 2023
利用自监督神经网络模型从观察到的轨迹数据中恢复相互作用网络并预测个体动力学的研究,应用于耦合粒子和耦合振荡器(Kuramoto)的两个动力系统。
Oct, 2023
耦合振子在任意图上本地驱动其相互同步的趋势,但通常会在整个图上表现出非线性行为。本文中,我们展示了这种耦合振子的非线性行为可以在某些潜在动态空间中被有效线性化。我们提出了基于监督矩阵分解的算法来学习这些潜在动态过滤器。我们的方法在同步预测任务中表现出竞争力,尽管其结构简单且可解释。
Nov, 2023
本文讨论了一种构建神经网络架构的系统方法,用于模拟一类动力系统,即线性时不变 (LTI) 系统。我们使用一种变种的连续时间神经网络,其中每个神经元的输出连续演化为一阶或二阶常微分方程的解。我们提出了一种无梯度算法,从给定的 LTI 系统中直接计算稀疏架构和网络参数,利用其特性。我们提出了一种横向隐藏层的新型神经网络架构范例,并解释了为什么使用传统的纵向隐藏层神经网络可能不是理想选择。我们还给出了该神经网络数值误差的上界,并展示了我们构建的网络在三个数值示例上的高精度。
Mar, 2024
本研究提出了 Koopmanizing Flows 方法,它是一种新的连续时间框架,用于监督学习一类非线性动力学的线性预测器,可有效地解决寻找有意义的有限维表示以进行预测的问题,并在 LASA 手写字体基准测试中展示出卓越的功效。
Dec, 2021
科学机器学习方法用于学习动力系统,该方法结合了数据驱动模型、基于物理模型的建模和经验知识。本研究主要关注运算推断方法,该方法在已知物理学规律或由专家确定的模型结构的先验假设下,构建动力学模型,并通过适当的优化问题学习模型的算子。我们提出了稳定的二次模型的推断形式,并讨论了局部和全局稳定的参数化。进一步,为了避免数值导数并实现对连续系统的学习,我们利用了微分方程的积分形式。通过数值示例,我们展示了该方法在保持稳定性和发现控制方程和保存能量模型方面的应用。
Aug, 2023
这篇论文提出了一种利用深度神经网络和数值分析相结合的机器学习方法,用于从数据中识别非线性动态系统,以此预测未来状态和识别吸引基。在多个基准问题中,论文证明了该方法的有效性,包括学习洛仑兹系统、圆柱背后的流体动力学、Hopf 分岔和糖酵解振荡器模型。
Jan, 2018
利用局部线性模型和层次聚类的方法,对复杂系统进行分析,将数据划分为多个窗口进行简单的指数衰减和振荡分析,通过收集每个窗口的参数,提取出时间序列的特征,从而可以应用于分析 $C. elegans$ 神经元运动和全脑成像等研究。
Jul, 2018
我们考虑时齐动力系统的一般类别,包括离散和连续性,并研究从观测数据中学习状态的有意义表示的问题。这对于学习系统的前向传递算符非常关键,从而可以用于预测未来状态或可观测量。该表示通常通过神经网络参数化,并通过优化类似于规范相关分析(CCA)的目标函数来学习。然而,与 CCA 不同,我们的目标避免矩阵求逆,因此通常更稳定且适用于挑战性的情况。我们的目标是 CCA 的一个紧松弛,并通过提出两种正则化方案进一步增强,一种鼓励表示的分量正交而另一种利用 Chapman-Kolmogorov 方程。我们将该方法应用于具有挑战性的离散动力系统,讨论其相对先前方法的改进,并应用于连续动力系统。
Jul, 2023