NIPSNov, 2013

稀疏线性动力系统及其在多元临床时间序列中的应用

PDF
TL;DR本研究提出了一种在最大后验 (MAP) 框架下，采用基于一般化梯度下降法的期望最大化 (EM) 算法，对线性动态系统的转移矩阵进行 L1 正则化来减轻隐藏状态数量选择问题的方法，这种 Sparse Linear Dynamical System (SLDS) 增强了对于临床多元时间序列数据的预测性能，相较于普通 LDS 模型。
linear dynamical systemmultivariate time serieshidden statesl1 regularizationsparse linear dynamical system
发现论文，激发创造
  • 学习线性动力系统混合模型

    研究了从未标记的短样本轨迹中学习多个线性动态系统（LDS）混合模型的问题，并开发了二阶段元算法，其执行效果得到了验证。

    Jan, 2022

  • 学习多个动态系统中的联合问题

    时间序列聚类是一个研究深入的问题，本文提出了一种变体方法，在给定一组轨迹和一定数量的部分的情况下，共同划分轨迹集并学习每个部分的线性动态系统（LDS）模型，以最小化所有模型的最大误差，给出了全局收敛方法和 EM 启发式算法，并伴随着有希望的计算结果。

    Nov, 2023

  • 通过谱滤波学习线性动态系统

    本文介绍了一种有效且实用的在线预测离散线性动态系统的算法，通过过参数化多项式对 LDS 的类别进行替代的方式，以获得损失函数的凸性，从而绕过了非凸最优化问题，并基于一种新颖的滤波技术进行了算法的构建。

    Nov, 2017

  • 循环切换线性动态系统

    通过将数据分解为由简单动态单元解释的片段并研究这些切换的行为，我们展示了一种新的模型类型 —— 递归式切换线性动态系统，以提供更深入的洞察力，并利用近年来的算法进展在这些模型中使用近似推理使贝叶斯推理变得轻松、快速且可扩展。

    Oct, 2016

  • 非线性嵌入线性动力神经群体模型

    提出了一种非线性生成模型 fLDS，并使用变分推断技术来拟合该模型，并在两种神经数据集上应用，与最先进的神经人口模型相比，fLDS 可用较少的潜在维度捕捉更多的神经变异，提供更好的预测性能和可解释性

    May, 2016

  • 贝叶斯非参数推断的线性动态系统转换

    使用贝叶斯非参数方法，将层次狄利克雷过程先验应用于两种切换动态模型，学习未知的持续光滑动态模式，同时推断动态依赖性的稀疏集，以学习具有变化状态维数的切换线性动态系统或具有变化自回归顺序的切换 VAR 过程，最终通过舞蹈蜜蜂序列、IBOVESPA 股票指数和机动目标跟踪应用程序展示模型的效用和灵活性

    Mar, 2010

  • 连续时间线性动力系统的系统识别

    本文提出了一种连续 - 离散滤波器的系统辨识方法，利用连续时间 Ito 随机微分方程的解作为潜在状态和协方差动力学的基础，通过引入一种新颖的两因子解析后验贝叶斯方法，并通过效率高的计算后验概率的算法，实现了对参数进行估计的 EM 过程，从而扩展了混合卡尔曼滤波器对不规则采样数据以及非线性系统辨识方法的应用范围。

    Aug, 2023

  • 稀疏图线性动态系统

    该研究论文提出了一种新的联合图模型框架来填补现有的状态空间模型中静态图模型和基于因果关系的图模型之间的缺失。作者通过引入一个高效的块交替主要化极小化算法实现了该框架，并通过对合成和真实气象变化数据的实验验证了所提出模型和推断算法的有效性。

    Jul, 2023

  • 线性动力学嵌入神经网络用于长序列建模

    长序列建模中性能和计算效率之间的权衡成为现有模型的瓶颈，本文基于控制理论中具有多输入和多输出的连续状态空间模型（SSMs），提出了一种新型神经网络，称为线性动力学嵌入神经网络（LDNN）。通过对角化和解耦然后快速傅里叶变换（FFT）的两种高效策略，将卷积的时间复杂度从 O (LNHmax {L, N}) 降低到 O (LNmax {H, log L})，实现了 LDNN 在长序列任务中的少参数、灵活推断和高效训练。我们通过双向非因果和多头设置进一步改进了 LDNN，以适应更广泛的应用领域。对长距离竞技场（LRA）进行了大量实验证明了 LDNN 的有效性和最先进的性能。

    Feb, 2024

  • 马尔可夫高斯过程：一种用于平稳时序高斯过程的通用状态空间表示

    引入一种通用方法，允许 LDS 模拟平稳的时间 GPs，这种状态空间表示方法称为马尔可夫高斯过程，通过保持高斯过程的灵活性同时维持高效的线性计算，能够组合 GPs 和 LDS 的优点，而不仅限于分离性多输出核函数，对单输出和多输出的平稳时间核函数普遍有效，通过计算协方差、执行回归任务和神经科学应用进行评估，证明了我们的方法能够提供准确的平稳时间 GPs 的状态空间表示。

    Jun, 2024