May, 2024

混合线性回归中 EM 迭代的摆线轨迹揭示

PDF
TL;DR我们研究了两组分混合线性回归 (2MLR) 的期望最大化 (EM) 算法的迭代轨迹和收敛速度。通过使用贝塞尔函数，我们提供了 EM 在所有信噪比情况下的明确闭式表达式，并在无噪音的情况下通过导出一个循环关系完全刻画了 EM 迭代的行为，从而揭示了所有迭代都位于某个摆线上。基于这种新的轨迹分析，我们展示了超线性收敛指数的理论估计，并进一步提高了有限样本层面上的统计误差界限。我们的分析为研究混合线性回归中的 EM 行为提供了新的框架。
expectation-maximization algorithmmixed linear regressionconvergence ratesem updatestrajectory-based analysis
发现论文，激发创造
  • Mixture of Two Component Linear Regression 的 EM 算法全局收敛性

    本研究提出 Expectation-Maximization 算法在混合线性回归方程式以两个成分收敛的新证明，揭示其在混合线性回归方程式中的变异，为此提出几种新思想。

    Oct, 2018

  • 用期望极大化算法估计两个线性回归混合模型的系数

    本文介绍了用期望最大化 (EM) 算法估计两个线性回归混合模型系数的收敛性，根据实验结果，我们发现算法需要在无限圆锥内开始初始化。同时发现，如果初始猜测与目标参数向量的余弦角足够大，则 EM 算法的样本分割版本可以高概率地收敛到真实系数向量。

    Apr, 2017

  • 面向超参数化高斯混合模型梯度 EM 算法的全球收敛

    在过参数化的设置中，我们研究了高斯混合模型（GMM）的梯度期望最大化（EM）算法，通过单个真实高斯分布生成的数据来学习具有 n > 1 个分量的一般 GMM。通过构建一个新的基于似然度的收敛性分析框架，我们严格证明了梯度 EM 以 sublinear 速率 O (1/√t) 具有全局收敛性，这是关于具有多于 2 个分量的高斯混合模型的首个全局收敛结果。子线性收敛速率是由于学习过参数化 GMM 的算法性质所导致的。我们还确定了学习一般过参数化 GMM 的新技术挑战：存在能够在指数步数内困住梯度 EM 的不良局部区域。

    Jun, 2024

  • 混合线性回归的全局在线识别收敛性

    本文研究了混合线性回归模型的在线识别和数据聚类问题，引入了两种基于期望最大化原理的相应的新的在线识别算法，证明了这两种算法都在不依赖传统的独立同分布数据假设的情况下全局收敛。在分析中的一个关键步骤是建立相应微分方程的稳定性以应用著名的 Ljung 的 ODE 方法，同时还证明了在已知参数的情况下，簇内误差和新数据被正确分类到簇中的概率渐近地与之前相同。最后，通过数值模拟验证了我们在线算法的有效性。

    Nov, 2023

  • 混合线性回归问题的交替最小化

    本文提出了一种新的初始化过程，该过程基于找到适当矩阵的前两个特征向量，并表明具有这种方法下的重采样 EM 算法在自然假设前提下可以收敛到正确的向量，其样本复杂度几乎是最佳的。

    Oct, 2013

  • EM 算法在两个高斯混合模型中的十步成功

    利用无限多样本的总体版本，我们为具有已知协方差矩阵的两个高斯混合物提供了全局收敛保证，并为收敛速率提供了简单的封闭型表达式。

    Sep, 2016

  • 混合线性回归模型的聚类数据中的 EM 算法

    在分布式数据中，通过结构化数据进行 EM 估计的集群结构可有效提高学习方案，最多需要 O (1) 次迭代以达到相同的统计准确性，只要 m 按照 e^{o (n)} 增长。

    Aug, 2023

  • 潜变量数据模型的在线 EM 算法

    本文提出了一种通用的在线版本 Expectation-Maximisation 算法，适用于独立观测的隐变量模型，可以更直接地将模型分布与观测的边际分布联系起来，而无需进行完整数据分布的积分，实现了一定的简化和加快收敛的效果，并且还适用于条件模型，例如本文所举出的线性回归模型的混合模型。

    Dec, 2007

  • 基于 EM 和 AM 算法的混合线性回归的无知学习

    混合线性回归是参数统计学和机器学习领域中一个被广泛研究的问题，本文研究了在没有生成模型的情况下，如何通过异态学习使用期望最大化算法 (EM) 和交替最小化算法 (AM) 进行混合线性回归的参数估计。

    Jun, 2024

  • 高斯混合模型的期望最大化全局分析

    研究基于极大似然原理的迭代算法 —— 期望最大化算法（EM）在统计模型中的参数估计，发现其仅能保证收敛于似然函数的极值点而非最大值点，尤其针对包含两个高斯分布混合的模型进行具体分析，最终建立了 EM 算法的统计一致性。

    Aug, 2016