高效分数匹配学习通用的高斯混合模型
本文提供了在高维情况下学习高斯混合物的准确最小值界限和基本限制,研究表明,如果存在决定均值分离的随机维度的稀疏子集,则样本复杂度只取决于相关维度的数量和平均分离,可通过简单的计算有效过程来实现;结果为最近结合特征选择和聚类的方法提供了理论基础的第一步。
Jun, 2013
本文证明已知的具有相同协方差矩阵和组成部分数量为固定次数多项式的高维混合高斯成分是多项式可学习的,但在低维空间下这种情况不可能存在。通过一种称为Poissonization的技术,将高维混合高斯成分变换为直接解决线性映射的问题。最后,我们将高维困难实例嵌入ICA设置中,建立了低维ICA的指数信息论下界。
Nov, 2013
提供了一种高效的样本多项式时间估计器,用于高维球形高斯混合模型中,从而显着降低了时间和样本复杂度,并且还提出了针对一维混合模型的简单估计器及一种更快的算法,用于从一组分布中选择密度估计。
Feb, 2014
在高维情况下,使用平滑分析方法可以在多项式时间内使用多项式数量的样本学习带有随机扰动参数的高斯混合模型, 通过利用高斯分布的高阶矩的组合结构并推导其对称性,探索新的高斯混合物的时刻张量的分解方法以及构建结构化随机矩阵的奇异值的下界。
Mar, 2015
研究学习高斯分布混合物,当分量分离良好时,需要解决分量之间最小分离的问题,并提出了一个新的算法来处理分量之间分离程度的限制,该算法可以通过粗略的估计获得准确的参数。
Oct, 2017
研究了在高维高斯混合假设下,少量数据受到对手损坏的情况下的高效可学习性,提出了一种多项式算法并证明了在成分经过配对后在总变异距离上分离时,该问题是可多项式学习的;这种算法是第一个可处理$k=2$的高斯混合问题的多项式时间算法,并使用基于Sum-of-Squares证明算法的技术,提出了一种新的用于高斯混合的鲁棒可辨识性证明方法和使用SoS可证明的反集中方法和新的特征距离度量组来解决问题。
May, 2020
本文研究通过score estimation进行diffusion models的学习,探讨gradient descent和EM算法在学习Gaussian mixture models方面的效率,证明了其在特定情况下达到高效的效果。
Jul, 2023
给出了一个新的学习高斯混合模型的算法,其目标是通过扩散模型中的得分函数以及多项式回归来高效学习混合高斯分布,对于具有最小权重假设的情况下,计算出来的误差和时间复杂度具有准多项式级别的优势,并扩展到具有支持在常数半径范围内的多个球的混合高斯的情况。
Apr, 2024