澄清变分扩散模型
扩散模型通过训练大量数据点，利用逐渐添加随机噪声和逆扩散过程将数据样本从复杂分布转换为简单分布，并学习数据流形，优于其他方法（包括生成对抗网络）来建模自然图像等分布。
Dec, 2023
本文提出了一种贝叶斯非参数推断随机微分方程的方法，该方法可用于回归任务和连续时间动态建模，强调微分方程的随机部分，利用 Wishart 过程对其进行建模，同时提出了半参数化方法，可以应用于高维模型的建模，成功地模型化了具有条件异方差噪声的潜在和自回归时间系统，实验证明建模扩散通常可以提高性能，并且微分方程中含有的随机性对于避免过拟合是必不可少的。
Jun, 2020
我们提出了去噪扩散变分推断（DDVI）算法，它是一种基于扩散模型作为表达性变分后验的潜变量模型的近似推断算法。我们的方法通过辅助潜变量来增强变分后验，从而得到一类表达性模型，通过反转用户指定的噪声过程在潜变量空间中进行扩散。通过优化受 wake-sleep 算法启发的边缘似然的一种新的下界，我们拟合这些模型。我们的方法易于实现（它适用于正则化的 ELBO 进一步扩展），与黑盒变分推断兼容，并且优于基于归一化流或对抗网络的替代近似后验类别。当应用于深层潜变量模型时，我们的方法得到了去噪扩散 VAE（DD-VAE）算法。我们将该算法应用于生物学中的一个激励任务 -- 从人类基因组推断潜在祖先 -- 在 Thousand Genomes 数据集上优于强基线模型。
Jan, 2024
该论文通过高斯分布得出扩散模型的微分方程和似然函数，分析了前向和后向随机微分方程及似然函数的变分自编码器和分数匹配方法，得到了反扩散常微分方程和基于噪声级别参数化的一族反扩散随机微分方程。
Jan, 2023
本文中，我们在变分和基于分数的透视下回顾，阐释和统一了扩散模型的理解。我们提出了变分扩散模型（VDM），并证明优化 VDM 归结为学习神经网络来预测原始源输入，原始源噪声或噪声输入的分数函数。最后，我们介绍了如何使用扩散模型通过引导来学习条件分布。
Aug, 2022
本文概述了 “扩散模型” 在图像合成、视频生成、分子设计等领域中的应用，并将相关研究分为三大类：高效采样、改进似然估计和处理具有特殊结构的数据。此外，还探讨了将扩散模型与其他生成模型相结合以获得更好结果的潜能，在计算机视觉、自然语言生成、时态数据模型等领域具有广泛的应用。本文旨在提供一个全面的扩散模型综述，指出其重点研究领域并指向未来的研究方向。
Sep, 2022
本文介绍和研究了一类概率生成模型，其中潜在对象是有限时间间隔上的有限维扩散过程，观察变量是在扩散的终端点条件下绘制的。 通过随机控制的视角，我们为这种生成模型的采样和变分推断提供了统一的观点，并量化了基于扩散的生成模型的表现力。我们最后提出并分析了一个无偏模拟的方案，并提供了结果估计值的方差上限。这个方案可以实现为深度生成模型并具有随机层数。
Mar, 2019