高维高斯分布在相同均值下之间的总变差距离
本文针对高维高斯分布参数学习问题进行了研究,提出了鲁棒估计算法,在拥有少量恶意样本的情况下实现了 $O (ε)$ 精度的估计,同时也证明了算法的多项式时间复杂度和多项式数量样本要求。
Apr, 2017
本文介绍了一种基于矩估计的计算方法,并应用新颖且简单的降维技术将上界推广到任意维数 $d>1$,同时发现了一些样本复杂度较小的特殊情况,同时我们的结果也适用于在总变异距离上学习混合物的每个组件,其中我们的算法显著提高了样本复杂度。
Apr, 2014
提供了一种有效的算法,用于鲁棒聚类混合的两个任意高斯分布,该算法将扩展到鲁棒聚类混合的分布更广泛的情况,通过使用基于等位置和费舍尔判别式的新可辨识性标准和相应的固定度数的平方和凸松弛。
Nov, 2019
研究了在高维高斯混合假设下,少量数据受到对手损坏的情况下的高效可学习性,提出了一种多项式算法并证明了在成分经过配对后在总变异距离上分离时,该问题是可多项式学习的;这种算法是第一个可处理 $k=2$ 的高斯混合问题的多项式时间算法,并使用基于 Sum-of-Squares 证明算法的技术,提出了一种新的用于高斯混合的鲁棒可辨识性证明方法和使用 SoS 可证明的反集中方法和新的特征距离度量组来解决问题。
May, 2020
本文介绍了学习高斯混合分布和算法鲁棒性统计的自然融合,提出了第一个可靠的算法,用于学习任意数量的高斯混合物,且仅需要混合权重(有界分数性)和成分之间的总变差距离与零保持一定距离的温和假设条件。算法的核心是一种新的方法,通过对某些生成函数应用一系列精心选择的微分运算来证明维度无关的多项式可辨识性,这些生成函数不仅编码了我们想要学习的参数,还编码了我们想要解决的多项式方程系统。我们展示了如何直接使用我们推导出的符号身份来分析自然的平方和松弛问题。
Nov, 2020
研究使用 Haar measure 进行随机矩阵采样后,其迹与标准正态分布之间的总变差距离上界,并将 Stein 方法的交换对扩展到存在连续对称性的情况,取得了类似结果的成果.
Sep, 2005
在满足差分隐私的约束下,研究了估计混合高斯模型问题。通过使用新的框架,证明了高斯模型类的混合模型是可私密学习的,得到了估计混合高斯模型所需的样本数量的有界性,且不对 GMMs 作出任何结构性假设。
Sep, 2023
本文提供了在高维情况下学习高斯混合物的准确最小值界限和基本限制,研究表明,如果存在决定均值分离的随机维度的稀疏子集,则样本复杂度只取决于相关维度的数量和平均分离,可通过简单的计算有效过程来实现;结果为最近结合特征选择和聚类的方法提供了理论基础的第一步。
Jun, 2013
本文将所熟知的 Chebyshev 不等式的变量扩展到多维情况,并表明只需样本独立且相同分布即可。随着样本数量趋向于无穷大,本文所推导的不等式也趋近于理论上的多维 Chebyshev 界限。
Sep, 2015
本文提出了一种统计查询下限技术,用于解决高维学习问题中高斯分布的学习和鲁棒性学习问题,并得出了样本复杂度和计算复杂度之间存在的超多项式差距,同时提供了一个新的方法来解决一些相关的无监督估计和测试问题。
Nov, 2016