本文提出了一种新的初始化过程,该过程基于找到适当矩阵的前两个特征向量,并表明具有这种方法下的重采样 EM 算法在自然假设前提下可以收敛到正确的向量,其样本复杂度几乎是最佳的。
Oct, 2013
本研究提出 Expectation-Maximization 算法在混合线性回归方程式以两个成分收敛的新证明,揭示其在混合线性回归方程式中的变异,为此提出几种新思想。
Oct, 2018
本文提出了一种基于 Matrix GLM 的近似消息传递算法(AMP)来估计混合线性回归等多个广义线性模型的信号,经过状态演化递归的理论分析得出该算法的性能,同时使用状态演化方法在每次迭代中选择 AMP 的最优去噪函数,数值模拟结果验证了 AMP 算法对于混合线性回归和 max-affine 回归等问题的优越表现。
Apr, 2023
本文介绍了用期望最大化 (EM) 算法估计两个线性回归混合模型系数的收敛性,根据实验结果,我们发现算法需要在无限圆锥内开始初始化。同时发现,如果初始猜测与目标参数向量的余弦角足够大,则 EM 算法的样本分割版本可以高概率地收敛到真实系数向量。
Apr, 2017
本文研究混合线性回归在预测误差上的问题。我们提出了一种预测方法,其中模型预测一个值列表,而不是预测标签。我们证明了使用最小化所有组件模型的损失所定义的损失函数可以实现小概率的预测误差。此外,我们提出了基于交替最小化的算法,实现了在不需要假设可实现模型的情况下找到最佳拟合线。
May, 2022
在分布式数据中,通过结构化数据进行 EM 估计的集群结构可有效提高学习方案,最多需要 O (1) 次迭代以达到相同的统计准确性,只要 m 按照 e^{o (n)} 增长。
Aug, 2023
研究基于极大似然原理的迭代算法 —— 期望最大化算法(EM)在统计模型中的参数估计,发现其仅能保证收敛于似然函数的极值点而非最大值点,尤其针对包含两个高斯分布混合的模型进行具体分析,最终建立了 EM 算法的统计一致性。
Aug, 2016
本研究提出一个基于量子算法的 EM 算法版本,用于解决高维 Gaussian 混合模型拟合问题,相较于传统算法有更快的收敛速度和更高的精度,并且能够推广到指数族分布,提供同样的计算保障。
Aug, 2019
这篇研究论文通过使用正则化技术,解决了高维数据应用中 EM 算法在 M 步时无法定义的问题,并在此基础上,具有统计保证的处理了高维混合回归、缺失变量回归等问题。
Nov, 2015
本文提出了一种基于 EM 算法的正则化版本,该方法可高效地利用先验知识来应对样本数据较小的情况,并通过收缩估计量以实现正定的协方差矩阵更新,从而改善 EM 算法在 Gaussian 混合模型(GMM)处理中的性能问题。此外,基于真实数据的实验证实了该算法在聚类目的上的良好性能。
Jul, 2023