Oct, 2013

混合线性回归问题的交替最小化

PDF
TL;DR本文提出了一种新的初始化过程，该过程基于找到适当矩阵的前两个特征向量，并表明具有这种方法下的重采样 EM 算法在自然假设前提下可以收敛到正确的向量，其样本复杂度几乎是最佳的。
mixed linear regressionem algorithmeigenvectorssample complexitymatrix
发现论文，激发创造
  • 基于 EM 和 AM 算法的混合线性回归的无知学习

    混合线性回归是参数统计学和机器学习领域中一个被广泛研究的问题，本文研究了在没有生成模型的情况下，如何通过异态学习使用期望最大化算法 (EM) 和交替最小化算法 (AM) 进行混合线性回归的参数估计。

    Jun, 2024

  • 理解矩阵补全的交替最小化方法

    使用一种基于交替最小化的新算法，在标准不连贯性假设下，可从一个未知的低秩矩阵中恢复随机子样本的条目，并减少至少一次方之秩和相似矩阵的条件数的交替最小化方法的样本大小要求。

    Dec, 2013

  • 使用张量分解和交替最小化求解多个随机线性方程混合问题

    本研究提出基于张量分解和交替最小化的算法可解决混合线性回归问题，具有多项式复杂度，可在线性维度下提供全局最优性结果。

    Aug, 2016

  • Mixture of Two Component Linear Regression 的 EM 算法全局收敛性

    本研究提出 Expectation-Maximization 算法在混合线性回归方程式以两个成分收敛的新证明，揭示其在混合线性回归方程式中的变异，为此提出几种新思想。

    Oct, 2018

  • 交替最小化法实现低秩矩阵完成

    本文首次理论分析了交替极小化算法在矩阵完成和矩阵感知问题中的表现，证明了在满足某些条件下，该算法可以快速收敛到真实矩阵，同时具有更简单的分析方法。

    Dec, 2012

  • 交替最小化算法用于相位恢复

    本文研究相位恢复问题的非凸情况，证明了一种改进的交替最小化算法的几何收敛性，同时提供了样本复杂度的分析，包括稀疏向量的最优缩放。

    Jun, 2013

  • 用期望极大化算法估计两个线性回归混合模型的系数

    本文介绍了用期望最大化 (EM) 算法估计两个线性回归混合模型系数的收敛性，根据实验结果，我们发现算法需要在无限圆锥内开始初始化。同时发现，如果初始猜测与目标参数向量的余弦角足够大，则 EM 算法的样本分割版本可以高概率地收敛到真实系数向量。

    Apr, 2017

  • 正则化 EM 算法：统一框架与统计保证

    这篇研究论文通过使用正则化技术，解决了高维数据应用中 EM 算法在 M 步时无法定义的问题，并在此基础上，具有统计保证的处理了高维混合回归、缺失变量回归等问题。

    Nov, 2015

  • 正则化 EM 算法

    本文提出了一种基于 EM 算法的正则化版本，该方法可高效地利用先验知识来应对样本数据较小的情况，并通过收缩估计量以实现正定的协方差矩阵更新，从而改善 EM 算法在 Gaussian 混合模型（GMM）处理中的性能问题。此外，基于真实数据的实验证实了该算法在聚类目的上的良好性能。

    Jul, 2023

  • 非凸集合交替极小化和交替下降

    本文研究了应用于两个变量上且每个变量可被限制在潜在非凸约束集上的损失函数的交替最小化方法，该方法在高维统计学和信号处理中常常出现。作者提出了本地凹率系数来度量非凸集合的凹性，进一步揭示了交替和非交替方法之间的重要区别。此外，作者还提出了不精确算法的一组足够条件，以确保其快速收敛，并通过多任务回归等例子进行了验证。

    Sep, 2017