Nov, 2013

更多则更美：对于学习大高斯混合模型来说，维度的 Blessing

HTML
PDF
TL;DR本文证明已知的具有相同协方差矩阵和组成部分数量为固定次数多项式的高维混合高斯成分是多项式可学习的，但在低维空间下这种情况不可能存在。通过一种称为Poissonization的技术，将高维混合高斯成分变换为直接解决线性映射的问题。最后，我们将高维困难实例嵌入ICA设置中，建立了低维ICA的指数信息论下界。
发现论文，激发创造
  • 高斯混合多项式可学习性的解决

    该论文提出了一种基于高斯混合模型的数据学习算法，可用于密度估计、数据聚类、高斯混合参数估计等问题，同时考虑了高维情况下的实际问题。

    Apr, 2010

  • 分布族的多项式学习

    本文解决了高维度任意固定数目成分的高斯混合分布在多项式学习方面存在问题的问题，提供了降维方法来将学习高维混合分布降至低维学习问题，并利用实代数几何学工具提供了多项式族分布的学习方法。

    Apr, 2010

  • 高维稀疏高斯混合模型的极小极大理论

    本文提供了在高维情况下学习高斯混合物的准确最小值界限和基本限制，研究表明，如果存在决定均值分离的随机维度的稀疏子集，则样本复杂度只取决于相关维度的数量和平均分离，可通过简单的计算有效过程来实现；结果为最近结合特征选择和聚类的方法提供了理论基础的第一步。

    Jun, 2013

  • 高斯混合模型适当学习的更快速、近乎最优的算法

    提出一种无需可分离性假设就能准确学习两个单维高斯混合模型的算法，其样本复杂度优于现有算法，能够有效地处理假设选择的问题。

    Dec, 2013

  • 球形高斯混合物的近最优样本估计器

    提供了一种高效的样本多项式时间估计器，用于高维球形高斯混合模型中，从而显着降低了时间和样本复杂度，并且还提出了针对一维混合模型的简单估计器及一种更快的算法，用于从一组分布中选择密度估计。

    Feb, 2014

  • 高维高斯混合模型学习

    在高维情况下，使用平滑分析方法可以在多项式时间内使用多项式数量的样本学习带有随机扰动参数的高斯混合模型, 通过利用高斯分布的高阶矩的组合结构并推导其对称性，探索新的高斯混合物的时刻张量的分解方法以及构建结构化随机矩阵的奇异值的下界。

    Mar, 2015

  • 学习分离明显高斯混合物

    研究学习高斯分布混合物，当分量分离良好时，需要解决分量之间最小分离的问题，并提出了一个新的算法来处理分量之间分离程度的限制，该算法可以通过粗略的估计获得准确的参数。

    Oct, 2017

  • 任意可簇合高斯混合模型的鲁棒学习

    研究了在高维高斯混合假设下，少量数据受到对手损坏的情况下的高效可学习性，提出了一种多项式算法并证明了在成分经过配对后在总变异距离上分离时，该问题是可多项式学习的；这种算法是第一个可处理$k=2$的高斯混合问题的多项式时间算法，并使用基于Sum-of-Squares证明算法的技术，提出了一种新的用于高斯混合的鲁棒可辨识性证明方法和使用SoS可证明的反集中方法和新的特征距离度量组来解决问题。

    May, 2020

  • 高斯混合模型的强健可学习性

    本文介绍了学习高斯混合分布和算法鲁棒性统计的自然融合，提出了第一个可靠的算法，用于学习任意数量的高斯混合物，且仅需要混合权重（有界分数性）和成分之间的总变差距离与零保持一定距离的温和假设条件。算法的核心是一种新的方法，通过对某些生成函数应用一系列精心选择的微分运算来证明维度无关的多项式可辨识性，这些生成函数不仅编码了我们想要学习的参数，还编码了我们想要解决的多项式方程系统。我们展示了如何直接使用我们推导出的符号身份来分析自然的平方和松弛问题。

    Nov, 2020

  • 高效分数匹配学习通用的高斯混合模型

    我们研究了学习混合高斯问题，通过扩大已有的扩散模型方法，提出了一种令人满意的采样算法。

    Apr, 2024