Jun, 2012

学习球形高斯混合模型：矩方法与谱分解

PDF
TL;DR本研究提供了一种计算效率高、统计一致的基于矩的混合高斯估计算法，通过简单的谱分解技术，无需额外的最小分离条件，在一般位置上获取成分均值的低阶观测矩，从而通过排除计算和信息理论方面的障碍以便混合模型的高效估计，当混合成分具有一般位置和球形协方差时，与独立成分分析相关的估计问题得到了一些联系。
spherical gaussiansspectral decompositionobservable momentsefficient estimationindependent component analysis
发现论文，激发创造
  • 高斯混合模型的最优估计：去噪矩方法

    利用半定规划抑噪，解决高斯混合模型中方法矩的不一致性等问题，建立在 Wasserstein 距离下新的矩比较定理，提出新的算法，解决方法矩估计常见的问题。

    Jul, 2018

  • 高维高斯混合模型学习

    在高维情况下，使用平滑分析方法可以在多项式时间内使用多项式数量的样本学习带有随机扰动参数的高斯混合模型，通过利用高斯分布的高阶矩的组合结构并推导其对称性，探索新的高斯混合物的时刻张量的分解方法以及构建结构化随机矩阵的奇异值的下界。

    Mar, 2015

  • 学习分离非球形高斯混合物

    本文提出了一种可以在多项式时间内确定高斯混合分布的组成部分的算法，其核心是 “距离集中” 结果，使用等周不等式，它们建立了根据混合分布生成的两个点之间的距离的概率分布的界限，同时还形式化了将高斯混合拟合到非结构化数据的最大似然问题。

    Mar, 2005

  • 分层矩方法

    论文介绍了基于谱方法模型参数学习的强大工具，并提出了一种分层方法去解决模型错误建模的鲁棒性问题。我们用近似的联合对角化取代以前算法中使用的张量分解步骤，并在主题建模实验中表明，我们的方法在速度和模型质量方面优于以前的张量分解方法。

    Oct, 2018

  • 混合模型和隐马尔可夫模型的矩方法

    本文提出了一种有效方法来估计高维的混合模型的参数以及应对 EM 算法的失败问题，该方法基于矩估计法来进行无监督学习从而实现了之前未能达到的混合模型严格的无监督学习结果。

    Mar, 2012

  • 高斯混合模型鲁棒聚类

    提供了一种有效的算法，用于鲁棒聚类混合的两个任意高斯分布，该算法将扩展到鲁棒聚类混合的分布更广泛的情况，通过使用基于等位置和费舍尔判别式的新可辨识性标准和相应的固定度数的平方和凸松弛。

    Nov, 2019

  • 一维高斯混合模型参数估计问题的傅里叶方法

    该研究提出了一种新颖的算法用于估计一维高斯混合模型的参数，利用傅里叶数据中的 Hankel 结构，解决了方差和组分数量同时的问题；同时揭示了有限独立同分布样本情况下，估计高斯混合模型的组分数量的基本极限，并验证了算法在似然度、AIC 和 BIC 等方面比 EM 算法表现更好。

    Apr, 2024

  • 使用谱分解学习离散积分分布混合

    提出了一种多项式时间 / 样本复杂度方法来学习离散域上的 $r$ 个离散乘积分布的混合，利用张量分解和矩阵完成方法降低难度，该方法在统计上是一致的，并提供了有限的样本保证。

    Nov, 2013

  • 球形高斯混合物的近最优样本估计器

    提供了一种高效的样本多项式时间估计器，用于高维球形高斯混合模型中，从而显着降低了时间和样本复杂度，并且还提出了针对一维混合模型的简单估计器及一种更快的算法，用于从一组分布中选择密度估计。

    Feb, 2014

  • 基于平方和的异常值稳健矩估计

    在存在对抗离群值的情况下，我们开发了有效的算法来估计未知分布的低阶矩。这些算法的保证在许多情况下显著优于 Diakonikolas 等人、Lai 等人和 Charikar 等人的最佳先前算法，同时我们还展示了这些算法的保证与我们考虑的分布类别的信息论下界相匹配，这些改进的保证使我们能够在存在离群值的情况下提供改进的独立成分分析和学习混合高斯的算法，我们的算法基于对下面概念简单优化问题的标准平方和松弛：在所有矩与未知分布相同的分布中，找到与对抗性污染样本的经验分布在统计距离上最接近的分布。

    Nov, 2017