Apr, 2024

有限高斯混合逼近的最佳近似

PDF
TL;DR通过有限混合物逼近一般的高斯位置混合物，在具有紧支持或适当的尾部概率假设的混合分布族中确定实现所需精度（通过各种 $f$- 分歧度测量）的有限混合物的最小阶数，其中上界是通过使用局部矩匹配技术实现的，下界是通过将最佳逼近误差与某些三角矩矩阵的低秩逼近联系起来，然后通过对其最小特征值进行精细的谱分析确定的。在高斯混合分布情况下，该结果纠正了之前在 [Allerton Conference 48 (2010) 620-628] 中的下界。
gaussian location mixturefinite mixtures$f$-divergencesmixing distributionslow-rank approximation
发现论文，激发创造
  • 在亚指数级混合模型中实现极小化极小聚类误差的通用下界和最优速率

    聚类是无监督机器学习中的关键问题，如何通过混合模型来研究聚类是常见的。本文首先通过契诺夫散度建立了聚类任何混合模型的一个普遍下界，然后证明在具有次指数尾部的混合模型中，迭代算法可以达到这个下界；此外，对于更适合使用泊松或负二项式混合模型的数据集，我们研究了属于指数族的混合模型，在这种混合模型中，我们证明了一种改进的 Lloyd 算法 ——Bregman 硬聚类，是速率最优的。

    Feb, 2024

  • 高维稀疏高斯混合模型的极小极大理论

    本文提供了在高维情况下学习高斯混合物的准确最小值界限和基本限制，研究表明，如果存在决定均值分离的随机维度的稀疏子集，则样本复杂度只取决于相关维度的数量和平均分离，可通过简单的计算有效过程来实现；结果为最近结合特征选择和聚类的方法提供了理论基础的第一步。

    Jun, 2013

  • 学习分离非球形高斯混合物

    本文提出了一种可以在多项式时间内确定高斯混合分布的组成部分的算法，其核心是 “距离集中” 结果，使用等周不等式，它们建立了根据混合分布生成的两个点之间的距离的概率分布的界限，同时还形式化了将高斯混合拟合到非结构化数据的最大似然问题。

    Mar, 2005

  • 稳健地学习 $k$ 个任意高斯分布的混合

    在固定 $k$ 个任意高斯分布的混合物和常量级别的数据污染的情况下，我们提出了一个用于稳健估计的多项式时间算法。该算法的主要工具有基于平方和方法的有效局部聚类算法和允许 Frobenius 范数和低秩项误差的新型张量分解算法。

    Dec, 2020

  • 高维高斯混合模型学习

    在高维情况下，使用平滑分析方法可以在多项式时间内使用多项式数量的样本学习带有随机扰动参数的高斯混合模型，通过利用高斯分布的高阶矩的组合结构并推导其对称性，探索新的高斯混合物的时刻张量的分解方法以及构建结构化随机矩阵的奇异值的下界。

    Mar, 2015

  • 高效分数匹配学习通用的高斯混合模型

    我们研究了学习混合高斯问题，通过扩大已有的扩散模型方法，提出了一种令人满意的采样算法。

    Apr, 2024

  • 高斯混合多项式可学习性的解决

    该论文提出了一种基于高斯混合模型的数据学习算法，可用于密度估计、数据聚类、高斯混合参数估计等问题，同时考虑了高维情况下的实际问题。

    Apr, 2010

  • 用多项式数量的样本来隐私学习高斯混合模型

    在满足差分隐私的约束下，研究了估计混合高斯模型问题。通过使用新的框架，证明了高斯模型类的混合模型是可私密学习的，得到了估计混合高斯模型所需的样本数量的有界性，且不对 GMMs 作出任何结构性假设。

    Sep, 2023

  • 学习两个高斯混合的紧密界限

    本文介绍了一种基于矩估计的计算方法，并应用新颖且简单的降维技术将上界推广到任意维数 $d>1$，同时发现了一些样本复杂度较小的特殊情况，同时我们的结果也适用于在总变异距离上学习混合物的每个组件，其中我们的算法显著提高了样本复杂度。

    Apr, 2014

  • 高斯混合模型鲁棒聚类

    提供了一种有效的算法，用于鲁棒聚类混合的两个任意高斯分布，该算法将扩展到鲁棒聚类混合的分布更广泛的情况，通过使用基于等位置和费舍尔判别式的新可辨识性标准和相应的固定度数的平方和凸松弛。

    Nov, 2019