高斯混合多项式可学习性的解决
在高维情况下,使用平滑分析方法可以在多项式时间内使用多项式数量的样本学习带有随机扰动参数的高斯混合模型,通过利用高斯分布的高阶矩的组合结构并推导其对称性,探索新的高斯混合物的时刻张量的分解方法以及构建结构化随机矩阵的奇异值的下界。
Mar, 2015
本文介绍了学习高斯混合分布和算法鲁棒性统计的自然融合,提出了第一个可靠的算法,用于学习任意数量的高斯混合物,且仅需要混合权重(有界分数性)和成分之间的总变差距离与零保持一定距离的温和假设条件。算法的核心是一种新的方法,通过对某些生成函数应用一系列精心选择的微分运算来证明维度无关的多项式可辨识性,这些生成函数不仅编码了我们想要学习的参数,还编码了我们想要解决的多项式方程系统。我们展示了如何直接使用我们推导出的符号身份来分析自然的平方和松弛问题。
Nov, 2020
在固定 $k$ 个任意高斯分布的混合物和常量级别的数据污染的情况下,我们提出了一个用于稳健估计的多项式时间算法。该算法的主要工具有基于平方和方法的有效局部聚类算法和允许 Frobenius 范数和低秩项误差的新型张量分解算法。
Dec, 2020
本文解决了高维度任意固定数目成分的高斯混合分布在多项式学习方面存在问题的问题,提供了降维方法来将学习高维混合分布降至低维学习问题,并利用实代数几何学工具提供了多项式族分布的学习方法。
Apr, 2010
研究了在高维高斯混合假设下,少量数据受到对手损坏的情况下的高效可学习性,提出了一种多项式算法并证明了在成分经过配对后在总变异距离上分离时,该问题是可多项式学习的;这种算法是第一个可处理 $k=2$ 的高斯混合问题的多项式时间算法,并使用基于 Sum-of-Squares 证明算法的技术,提出了一种新的用于高斯混合的鲁棒可辨识性证明方法和使用 SoS 可证明的反集中方法和新的特征距离度量组来解决问题。
May, 2020
本文提出了一种可以在多项式时间内确定高斯混合分布的组成部分的算法,其核心是 “距离集中” 结果,使用等周不等式,它们建立了根据混合分布生成的两个点之间的距离的概率分布的界限,同时还形式化了将高斯混合拟合到非结构化数据的最大似然问题。
Mar, 2005
在满足差分隐私的约束下,研究了估计混合高斯模型问题。通过使用新的框架,证明了高斯模型类的混合模型是可私密学习的,得到了估计混合高斯模型所需的样本数量的有界性,且不对 GMMs 作出任何结构性假设。
Sep, 2023
本文证明已知的具有相同协方差矩阵和组成部分数量为固定次数多项式的高维混合高斯成分是多项式可学习的,但在低维空间下这种情况不可能存在。通过一种称为 Poissonization 的技术,将高维混合高斯成分变换为直接解决线性映射的问题。最后,我们将高维困难实例嵌入 ICA 设置中,建立了低维 ICA 的指数信息论下界。
Nov, 2013