改进降噪扩散概率模型
Fast-DDPM 是一种简单而有效的方法,可同时提高训练速度、采样速度和生成质量,通过仅使用 10 个时间步进行训练和采样,相比 DDPM,Fast-DDPM 能够在医学图像生成任务中优于基于卷积网络和生成对抗网络的当前最先进方法,并将训练时间缩短了 5 倍,采样时间缩短了 100 倍。
May, 2024
本文描述了一种更高效的迭代隐式概率模型 —— 去噪扩散隐式模型(DDIMs),通过构建一类非马尔科夫扩散过程来加速采样过程,相对于去噪扩散概率模型(DDPMs)可以使采样速度提升 10 倍至 50 倍。这种模型可以用于图像生成和语义意义化的图像内插。
Oct, 2020
本文介绍了一种基于 Markovian 过程的 Upsampling Diffusion Probabilistic Model(UDPM),相较于传统的 Denoising Diffusion Probabilistic Models(DDPM),它在降低潜变量维度的同时,仅需 7 个扩散步骤即可生成 $256 imes 256$ 的高清图像。
May, 2023
提出了一种动态规划算法,基于 ELBO 分解原理,可用于任何预先训练的 DDPM,通过优化推理时间表来发现最优的离散时间表,从而实现生成速度与样本质量之间的平衡。
Jun, 2021
本文提出了离散去噪扩散概率模型(D3PM),用于离散数据的扩散式生成模型,包括了仿真高斯核、嵌入空间中基于最邻近、引入吸收状态等过渡矩阵。研究表明过渡矩阵的选择对图像和文本领域下的生成模型结果至关重要,且提出的新损失函数在字符级别文本生成上取得了很好的效果。
Jul, 2021
通过使用随机上下文模型(SCMs)产生训练数据,首次对 Denoising Diffusion Probabilistic Models(DDPMs)在医学成像领域相关信息学习能力进行了系统评估,结果表明 DDPMs 在生成具有空间上下文的图像方面具有显著的能力,可能在数据增强任务中具有 GANs 所不能达到的优势。
Sep, 2023
本文提出了基于去噪扩散概率模型的无线通信方案,旨在解决实际应用中的硬件损伤、信道失真和量化误差等非理想因素,提供低信噪比下的网络韧性、对不同硬件损伤水平和量化误差的近不变重建性能,以及抵抗非高斯噪声的强大分布外表现,并通过余弦相似度和均方误差(MSE)评估与传统深度神经网络(DNN)接收机相比的超过 25 dB 改进的重建性能。
Oct, 2023