多元潜变树结构的频谱方法学习

Jul, 2011

Spectral Methods for Learning Multivariate Latent Tree Structure

Animashree Anandkumar, Kamalika Chaudhuri, Daniel Hsu, Sham M. Kakade, Le Song...

TL;DR该研究考虑了多元线性树模型的结构学习问题，引入了一种基于谱递归分组算法的底层向上过程以从观察到的变量的独立样本中恢复树结构，并给出了确切恢复树结构的有限样本大小界限，这些界限基于潜在联合分布的统计和结构属性，并且样本复杂度保证不依赖于观察变量维度，因此适用于许多高维设置。

Abstract

This work considers the problem of learning the structure of multivariate linear tree models, which include a variety of directed tree graphical models with continuous, discrete, and mixed latent variables such as linear-Gaussian models, hidden Markov models, Gaussian mixture models, and Markov evolutionary trees. The setting is one where we only have sample

multivariate linear tree models spectral recursive grouping algorithm tree structure hidden variables sample complexity guarantees

发现论文，激发创造

学习潜在树图模型

本文提出了两种一致且计算效率高的算法，用于学习最小化的潜在树图模型，并与其他现有方法进行了比较，所提出的算法在隐藏马尔可夫模型和星形图等各种潜在树图模型上进行了详尽的数值实验。

Sep, 2010

隐变量联合树的谱算法

使用张量代数，我们提出了一个隐变量模型的新参数化方法，用于计算观测变量的边缘值，并设计了一种基于张量操作和奇异值分解的本地最小化算法来学习这种参数化，这是首个能为低树宽潜在图模型提供一致参数学习技术的研究。

Oct, 2012

多视角潜变量模型的非参数估计

本文介绍了使用核方法进行多视图潜变量模型学习的理论。方法利用复现核希尔伯特空间嵌入多视图潜变量的联合分布，并提出了一种有效的张量幂法来恢复潜变量参数。实验结果展示了该非参数模型在多个方面都优于现有光谱算法和 EM 算法。

Nov, 2013

潜在树模型及其应用调查

本文综述了一种称为潜在树模型的概率图模型，其通过树形结构和潜在变量的捕捉来解决数据分析中的困难，包括潜在结构发现、多维聚类和概率推断等。

Feb, 2014

具潜变量的循环图模型学习：高效方法与保证

研究了隐变量图模型中的结构估计问题，提出了一种计算高效且保证正确性的方法，并应用于局部树状结构的模型及相关衰减的模型，特别地，对于伊辛模型，该方法能与采样要求的下界接近。

Mar, 2012

估计线性回归混合的频谱专家

本文提出一种新的基于低秩线性回归和张量幂法的计算高效且具有保证一致性的鉴别性潜变量模型估计方法，该方法在混合线性回归模型中被验证其收敛性能优于局部优化 EM 算法。

Jun, 2013

通用图形模型的隐变量结构化预测效率

本文提出了一个有潜在变量的结构化预测的统一框架，包括隐藏的条件随机场和潜在的结构支持向量机。通过对偶性描述了这种普遍公式的局部熵逼近，在图像分割和从单个图像中理解三维室内场景的任务中表现出不错的效果，比潜在结构支持向量机和隐藏条件随机场方法要好。

Jun, 2012

分层矩方法

论文介绍了基于谱方法模型参数学习的强大工具，并提出了一种分层方法去解决模型错误建模的鲁棒性问题。我们用近似的联合对角化取代以前算法中使用的张量分解步骤，并在主题建模实验中表明，我们的方法在速度和模型质量方面优于以前的张量分解方法。

Oct, 2018

基于多层图谱的聚类：谱学视角

本文提出了两种新方法来有效地将多层图的频谱结合起来，通过联合矩阵分解和图正则化框架来提高顶点的聚类效果，同时在社交网络数据集上显示出了优异的性能。

Jun, 2011

潜在狄利克雷分配的谱算法

提出了一种名为 ECA 的学习流程，基于低阶矩的光谱分解，它可以恢复多种混合模型的参数，并在仅使用三元统计时正确恢复主题概率向量和主题优先级，因此具有可扩展性。

Apr, 2012