通过提出一种新颖的去随机扩散过程,我们加速了离散扩散模型的算法;我们还引入了一种连续时间采样算法,能够比有限步长的离散时间采样算法提供更好的样本质量。大量实验表明,在自然语言生成和机器翻译任务中,我们的方法在离散扩散模型的生成速度和样本质量方面表现出优越性。
Dec, 2023
扩散模型通过训练大量数据点,利用逐渐添加随机噪声和逆扩散过程将数据样本从复杂分布转换为简单分布,并学习数据流形,优于其他方法(包括生成对抗网络)来建模自然图像等分布。
本文提出了一个概率模型,将点云看作是处于非平衡热力学系统内的粒子,并通过扩散过程学习将噪声分布转换为所需形状分布的逆扩散过程,即点云生成过程。具体地,将点云的逆扩散过程建模为一个以某个形状因子为条件的马尔科夫链,并提供了闭合形式的变分下界以进行训练。实验结果显示,该模型在点云生成和自编码方面具有竞争性能。
Mar, 2021
提出了一种用于简化离散扩散的数学简化方案,同时还提出了一种能够精确和加速采样的简单公式,并通过创建一个统一的模型,简化离散扩散的前向和后向概率计算,取得了在现有数据集上优于其他方法的效果。
Feb, 2024
研究了离散状态下的 Markov 过程以及其反向扩散,提出了命名为 'Blackout Diffusion' 的新的方案,可以从空图像而不是噪声中产生样本,从特定前向过程到离散态过程的泛化可以帮助解释扩散模型。
May, 2023
本文旨在建立离散扩散模型的概率流动基本理论,从而定义符合最优运输原理的离散概率流动,并提出一种超越以往的离散扩散模型的新型采样方法。通过在合成玩具数据集和 CIFAR-10 数据集上的广泛实验证实了所提出的离散概率流动的有效性。
Nov, 2023
本文介绍了 CDCD 框架,该框架是一种对分类数据进行扩散建模的方法,同时保持了连续时间和输入空间的特性,并在多个语言建模任务中证明了其有效性。
Nov, 2022
利用新颖的评分匹配损失,我们提出了一种基于粒子迭代方案的粒子去噪扩散取样器(PDDS),它能够在温和假设下提供渐近一致的估计,我们在多模态和高维取样任务上演示了 PDDS。
本文提出了一种基于连续指数族描述的高斯变分过程的参数化方法,利用凸优化算法来解决具有非线性扩散过程先验的潜在过程的生成模型下的概率推断和学习问题。
Jun, 2023
通过提出概率扩散模型的广义尺度空间理论,我们揭示了这些模型与经典图像滤波的关联,并展示了与扩散和渗透滤波的概念和经验上的联系。
Sep, 2023