使用DDPM目标函数学习高斯混合模型
提供了一种高效的样本多项式时间估计器，用于高维球形高斯混合模型中，从而显着降低了时间和样本复杂度，并且还提出了针对一维混合模型的简单估计器及一种更快的算法，用于从一组分布中选择密度估计。
Feb, 2014
在高维情况下，使用平滑分析方法可以在多项式时间内使用多项式数量的样本学习带有随机扰动参数的高斯混合模型, 通过利用高斯分布的高阶矩的组合结构并推导其对称性，探索新的高斯混合物的时刻张量的分解方法以及构建结构化随机矩阵的奇异值的下界。
Mar, 2015
研究学习高斯分布混合物，当分量分离良好时，需要解决分量之间最小分离的问题，并提出了一个新的算法来处理分量之间分离程度的限制，该算法可以通过粗略的估计获得准确的参数。
Oct, 2017
本文提出了一种适用于一般多变量GMM学习的距离函数Sliced Cramé 2-distance, 其解析形式表达简单, 且可以与神经网络顺利结合, 将其应用于Deep Q Networks代表的一些算法中, 获得了很好的表现。
Jul, 2023
利用高斯混合模型作为特征条件引导去噪过程，构建了一种基于高斯混合模型的条件机制，证明了该条件机制在特征上的条件潜在分布相较于类别上的条件潜在分布产生较少的缺陷生成，通过两种基于高斯混合模型的扩散模型的实验结果支持上述发现，并提出负高斯混合梯度作为一种新的梯度函数，通过额外分类器在扩散模型训练中应用，提高了训练稳定性，并从理论上证明了负高斯混合梯度和地球移动距离（Wasserstein 距离）在学习由低维流形支持的分布时具有相同的优势作为一种更合理的代价函数。
Jan, 2024
给出了一个新的学习高斯混合模型的算法，其目标是通过扩散模型中的得分函数以及多项式回归来高效学习混合高斯分布，对于具有最小权重假设的情况下，计算出来的误差和时间复杂度具有准多项式级别的优势，并扩展到具有支持在常数半径范围内的多个球的混合高斯的情况。
Apr, 2024
在过参数化的设置中，我们研究了高斯混合模型（GMM）的梯度期望最大化（EM）算法，通过单个真实高斯分布生成的数据来学习具有 n > 1 个分量的一般 GMM。通过构建一个新的基于似然度的收敛性分析框架，我们严格证明了梯度 EM 以 sublinear 速率 O(1/√t) 具有全局收敛性，这是关于具有多于 2 个分量的高斯混合模型的首个全局收敛结果。子线性收敛速率是由于学习过参数化 GMM 的算法性质所导致的。我们还确定了学习一般过参数化 GMM 的新技术挑战：存在能够在指数步数内困住梯度 EM 的不良局部区域。
Jun, 2024
本研究介绍了一种基于扩散过程的可逆学习方法，其核心在于学习其评分形式，用于估计科学系统的性质。我们引入一系列可计算的去噪评分匹配目标，称为局部-DSM，利用扩散过程的局部增量。我们展示了如何使用局部-DSM和泰勒展开进行自动训练和评分估计，用于非线性扩散过程。为了证明这些想法，我们使用自动-DSM在具有挑战性的低维分布和CIFAR10图像数据集上训练生成模型。此外，我们使用自动-DSM学习了在统计物理学中研究的非线性过程的评分。
Jul, 2024