NIPSSep, 2016

通过连续矩阵的谱分解学习非参数排放 HMM

PDF
TL;DR研究使用连续线性代数和数值分析的计算方法，采用非参数模型来推断连续发射密度，以实现对隐马尔可夫模型的估计，证明了计算方法的有效性和可行性，并探讨了其样本复杂度和连续矩阵的扰动等问题。
spectral methodslatent variable modelshidden markov modelcontinuous linear algebranonparametric density estimation
发现论文，激发创造
  • 一种用于学习隐马尔可夫模型的频谱算法

    本文介绍了一种高效学习隐马尔可夫模型的算法，其样本复杂度不明确依赖于离散观察序列的数量，而是通过其谱属性隐含地依赖于该数量，这使得该算法适用于像自然语言处理这样具有大量观察值的领域。

    Nov, 2008

  • 非参数隐马尔可夫模型的极小极大自适应估计

    本文提出了一种新的带罚项的最小二乘估计器，用于发射分布的非参数估计，并证明了其可以达到速率最小极致适应性。该方法基于逐步增加复杂度的嵌套子空间的发射分布的投影，最新的模拟表明了最小二乘估计法的改进。

    Jan, 2015

  • 多视角潜变量模型的非参数估计

    本文介绍了使用核方法进行多视图潜变量模型学习的理论。方法利用复现核希尔伯特空间嵌入多视图潜变量的联合分布，并提出了一种有效的张量幂法来恢复潜变量参数。实验结果展示了该非参数模型在多个方面都优于现有光谱算法和 EM 算法。

    Nov, 2013

  • 降秩隐马尔可夫模型

    本研究介绍了一种名为 Reduced-Rank Hidden Markov Model 的模型，它是隐马尔可夫模型和线性动态系统的一般化，可被广泛应用于多变量连续型数据的建模和机器视觉模型问题。同时，我们提出一种基于谱方法的算法，可以用于学习这个模型，达到了高准确性和高效率的模拟和预测效果。

    Oct, 2009

  • 马尔科夫过程的频谱状态压缩

    本研究利用香农熵的谱分解方法，对 Markov 过程的特征，以及如可表示性，可继承性和可压缩性等属性进行研究。研究者还开发了一种谱方法，用于估计低秩 Markov 模型的转移矩阵，以及恢复状态聚合和可堆叠分区等潜在结构。

    Feb, 2018

  • 贝叶斯非参数隐马尔可夫半马尔可夫模型

    本文提出了显式时长的分层狄利克雷过程隐半马可夫模型（HDP-HSMM），并开发了采样算法用于有效的后验推断，这个方法不仅可以为有限的贝叶斯 HSMM 提供新的采样方法，而且可以嵌入到更大的分层贝叶斯模型的采样器中，为贝叶斯推断提供另一种工具。

    Mar, 2012

  • 光谱学习中汉克尔矩阵的无维度集中界

    本文通过提供一些新的用于 Hankel 矩阵的无维度的集中度界限的方案，增强了已有的含量界限，以探讨权重自动机这个概念。我们测试了这个界限并发现他们对于已有的界限相比，表现要好得多。

    Dec, 2013

  • 通过谱滤波学习线性动态系统

    本文介绍了一种有效且实用的在线预测离散线性动态系统的算法，通过过参数化多项式对 LDS 的类别进行替代的方式，以获得损失函数的凸性，从而绕过了非凸最优化问题，并基于一种新颖的滤波技术进行了算法的构建。

    Nov, 2017

  • 利用隐马尔可夫模型非参数识别和估计收入动态：来自 PSID 的证据

    本文提出了一种隐马尔可夫模型，旨在研究收益持续性的复杂性质。应用该模型于收入动态面板研究数据集，研究发现收益过程表现出非线性持久性、条件偏度和条件峰度，与此同时，短期成分还具有非高斯性质。

    May, 2023

  • 离散密度估计的非负张量混合学习

    基于期望最大化 (EM) 的非负张量分解统一框架，通过优化 Kullback-Leibler 散度来避免在每次 M 步骤和学习率调整中的迭代，并建立了低秩分解和多体逼近之间的一般关系，进而利用了多体逼近的闭式解来同时更新所有参数。我们的框架不仅为各种低秩结构（包括 CP、Tucker 和 Train 分解）提供了统一的方法，还包括了张量的组合形成混合以及稳健的自适应噪声建模。实证方面，与传统的基于张量的方法相比，我们的框架在离散密度估计方面提供了更好的泛化。

    May, 2024