长序列建模中性能和计算效率之间的权衡成为现有模型的瓶颈，本文基于控制理论中具有多输入和多输出的连续状态空间模型（SSMs），提出了一种新型神经网络，称为线性动力学嵌入神经网络（LDNN）。通过对角化和解耦然后快速傅里叶变换（FFT）的两种高效策略，将卷积的时间复杂度从 O (LNHmax {L, N}) 降低到 O (LNmax {H, log L})，实现了 LDNN 在长序列任务中的少参数、灵活推断和高效训练。我们通过双向非因果和多头设置进一步改进了 LDNN，以适应更广泛的应用领域。对长距离竞技场（LRA）进行了大量实验证明了 LDNN 的有效性和最先进的性能。

Feb, 2024

LFADS 是一种基于变分自编码器的时序模型，在神经科学中应用广泛，能够通过推断出潜在动力学，对同时记录的高维神经放电数据进行低维度因子分析。

Aug, 2016

本研究提出了一种基于状态空间模型的计算动力学分析方法，结合 PLRNN 和 fMRI 等神经成像数据，可以深入分析神经系统的非线性动力学特征，并为神经系统的临床评估和神经科学研究提供新的方法。

Feb, 2019

使用 LFADS 模型和 FPGA 实现的高效实时数据处理方法，能够从高维度的神经尖峰数据中推断出潜在的动态，为研究神经人群动力学和提高计算算法的实时处理能力提供了新的机会。

Feb, 2024

通过将数据分解为由简单动态单元解释的片段并研究这些切换的行为，我们展示了一种新的模型类型 —— 递归式切换线性动态系统，以提供更深入的洞察力，并利用近年来的算法进展在这些模型中使用近似推理使贝叶斯推理变得轻松、快速且可扩展。

Oct, 2016

本研究提出了一种在最大后验 (MAP) 框架下，采用基于一般化梯度下降法的期望最大化 (EM) 算法，对线性动态系统的转移矩阵进行 L1 正则化来减轻隐藏状态数量选择问题的方法，这种 Sparse Linear Dynamical System (SLDS) 增强了对于临床多元时间序列数据的预测性能，相较于普通 LDS 模型。

Nov, 2013

本文提出了一种基于变分方法的非线性和抛物型偏微分方程潜在力模型的推断技术，并展示了神经算子方法在千万级实例上的可扩展性，以处理核函数的不同可处理程度，进一步表明我们框架的高效性和灵活性。

Sep, 2021

该研究通过概率隐变量序列模型，使用前向算法实现连续状态 Kalman 滤波器来学习单词的表示。通过 EM 算法准确地优化参数，使用所学习到的单词嵌入作为标记任务的特征，在标记任务中实现显著的准确度改进，并通过线性递归神经网络通过我们的模型的参数来初始化非线性递归神经网络语言模型，降低了其训练时间和困惑度。

Feb, 2015

对于展现时空动态响应的系统的演化进行预测是促进科学创新的关键技术，传统基于方程的方法需要大规模并行计算平台和大量的计算成本。相比之下，我们提出了一种名为 Latent Dynamics Network 的新型架构，该架构使用降维和深度学习算法来描述系统演化的低维潜在空间，从而预测空间依赖场对外部输入的时间演化，并在几个测试案例上验证了该方法的高效性和精确性。

Apr, 2023

本文介绍了一种新型动态线性流方法（DLF），该方法结合了流式建模的高效性与自回归建模的高密度性能，可用于生成复杂分布，并在 ImageNet 数据集上取得了最新的最佳性能结果。

May, 2019