Jul, 2023

使用 DDPM 目标函数学习高斯混合模型

PDF
TL;DR本文研究通过 score estimation 进行 diffusion models 的学习，探讨 gradient descent 和 EM 算法在学习 Gaussian mixture models 方面的效率，证明了其在特定情况下达到高效的效果。
发现论文，激发创造
  • 在基于评分扩散模型中适应未知的低维结构

    本研究通过设计独特的系数，首次理论证明了去噪扩散概率模型可以适应目标分布中未知的低维结构，凸显了系数设计的重要性。

    May, 2024

  • 改进降噪扩散概率模型

    通过对 DDPM 模型进行简单修改，可以在保持高质量样本的同时达到具有竞争力的对数似然值，并学习反向扩散过程的方差，从而使用数量级更少的正向传递采样。使用精度和召回率比较 DDPM 和 GAN 模型的性能，并证明这些模型的样本质量和似然值可以与模型容量和训练计算平稳地提高。

    Feb, 2021

  • 使用扩散模型学习高斯混合模型

    给出了一个新的学习高斯混合模型的算法，其目标是通过扩散模型中的得分函数以及多项式回归来高效学习混合高斯分布，对于具有最小权重假设的情况下，计算出来的误差和时间复杂度具有准多项式级别的优势，并扩展到具有支持在常数半径范围内的多个球的混合高斯的情况。

    Apr, 2024

  • 六个简单步骤的去噪扩散概率模型

    通过六个简单步骤清晰陈述，简化并阐明噪声扩散概率模型（DDPM）的构建及其工作原理。

    Feb, 2024

  • ClusterDDPM：一种带有去噪扩散概率模型的 EM 聚类框架

    利用新型的去噪扩散概率模型（DDPMs）引入创新的期望最大化（EM）框架进行聚类，通过优化学习聚类友好的潜在表示，有效地提高了聚类、无监督条件生成和潜在表示学习的性能。

    Dec, 2023

  • 高效分数匹配学习通用的高斯混合模型

    我们研究了学习混合高斯问题，通过扩大已有的扩散模型方法，提出了一种令人满意的采样算法。

    Apr, 2024

  • 双边去噪扩散模型

    该论文提出了新的双边去噪扩散模型（BDDMs）来提高样本生成的质量和速度，其可以更加高效和简单地训练，以及进一步优化先前训练好的模型。

    Aug, 2021

  • 离散状态空间中的结构去噪扩散模型

    本文提出了离散去噪扩散概率模型（D3PM），用于离散数据的扩散式生成模型，包括了仿真高斯核、嵌入空间中基于最邻近、引入吸收状态等过渡矩阵。研究表明过渡矩阵的选择对图像和文本领域下的生成模型结果至关重要，且提出的新损失函数在字符级别文本生成上取得了很好的效果。

    Jul, 2021

  • 去噪扩散概率模型的生成型量子机器学习

    基于经典对应物，我们提出了量子去噪扩散概率模型（QuDDPM），以实现对量子数据的高效可训练生成学习。

    Oct, 2023

  • 加速基于得分的扩散模型的收敛性证明

    设计了加速常见确定性和随机抽样算法的训练免费算法，加速度确定性和随机抽样器的汇率超过 DDIM 和 DDPM 抽样器的速度。

    Mar, 2024