Dec, 2007

潜变量数据模型的在线 EM 算法

PDF
TL;DR本文提出了一种通用的在线版本 Expectation-Maximisation 算法，适用于独立观测的隐变量模型，可以更直接地将模型分布与观测的边际分布联系起来，而无需进行完整数据分布的积分，实现了一定的简化和加快收敛的效果，并且还适用于条件模型，例如本文所举出的线性回归模型的混合模型。
expectation-maximisation algorithmlatent variable modelsmixture of linear regressionsmaximum likelihood estimatorkullback-leibler divergence
发现论文，激发创造
  • 高维期望最大化算法：统计优化和渐近正态性

    本文提供了一个关于期望最大化 (EM) 算法应用于高维潜变量模型推断的一般理论。作者提出了一个新的高维 EM 算法，自然地融入了稀疏结构到参数估计中。基于估计值，作者提出了新的推论程序来测试假设并构建置信区间。这个算法针对广泛的统计模型，提供了高维最先进的估计和渐近推断的第一个可计算的方法。

    Dec, 2014

  • 混合线性回归模型的聚类数据中的 EM 算法

    在分布式数据中，通过结构化数据进行 EM 估计的集群结构可有效提高学习方案，最多需要 O (1) 次迭代以达到相同的统计准确性，只要 m 按照 e^{o (n)} 增长。

    Aug, 2023

  • 高斯混合模型的量子期望最大化

    本研究提出一个基于量子算法的 EM 算法版本，用于解决高维 Gaussian 混合模型拟合问题，相较于传统算法有更快的收敛速度和更高的精度，并且能够推广到指数族分布，提供同样的计算保障。

    Aug, 2019

  • Mixture of Two Component Linear Regression 的 EM 算法全局收敛性

    本研究提出 Expectation-Maximization 算法在混合线性回归方程式以两个成分收敛的新证明，揭示其在混合线性回归方程式中的变异，为此提出几种新思想。

    Oct, 2018

  • 正则化 EM 算法

    本文提出了一种基于 EM 算法的正则化版本，该方法可高效地利用先验知识来应对样本数据较小的情况，并通过收缩估计量以实现正定的协方差矩阵更新，从而改善 EM 算法在 Gaussian 混合模型（GMM）处理中的性能问题。此外，基于真实数据的实验证实了该算法在聚类目的上的良好性能。

    Jul, 2023

  • 动量粒子极大似然

    最大似然估计（MLE）的潜变量模型常常被重新设定为参数和概率分布的扩展空间上的优化问题。我们提出了一个受动力系统启发的方法，结合了 Nesterov 的加速梯度法、欠阻尼朗之万方程和粒子方法，使得该算法在连续时间中收敛到函数的唯一最小值。通过数值实验，我们证明该算法比现有方法更快地收敛，并与其他（近似的）MLE 算法相比具有优势。

    Dec, 2023

  • 概率展开优化：面向潜在高斯模型的可扩展、无需反演的最大似然估计

    本文提出了一种用概率展开和迭代线性求解器相结合的方法，以绕过矩阵求逆的问题来学习潜在高斯模型，在实验中发现，这种方法可以比传统梯度期望极大化算法快一个数量级地学习潜在高斯模型。

    Jun, 2023

  • 正则化 EM 算法：统一框架与统计保证

    这篇研究论文通过使用正则化技术，解决了高维数据应用中 EM 算法在 M 步时无法定义的问题，并在此基础上，具有统计保证的处理了高维混合回归、缺失变量回归等问题。

    Nov, 2015

  • EM 算法在两个高斯混合模型中的十步成功

    利用无限多样本的总体版本，我们为具有已知协方差矩阵的两个高斯混合物提供了全局收敛保证，并为收敛速率提供了简单的封闭型表达式。

    Sep, 2016

  • EM 类型算法学习主动基模型

    介绍 EM 算法在非全监督学习中创建目标物体图像模板的应用，使用局部、延伸和定向的小波元素和迭代步骤分别进行自监督和监督学习来学习和识别物体。

    Apr, 2011