May, 2023

UDPM: 上采样扩散概率模型

PDF
TL;DR本文介绍了一种基于 Markovian 过程的 Upsampling Diffusion Probabilistic Model（UDPM），相较于传统的 Denoising Diffusion Probabilistic Models（DDPM），它在降低潜变量维度的同时，仅需 7 个扩散步骤即可生成 $256 imes 256$ 的高清图像。
denoising diffusion probabilistic modelsmarkovian processupsampling diffusion probabilistic modellatent variable dimensionimage generation
发现论文，激发创造
  • 改进降噪扩散概率模型

    通过对 DDPM 模型进行简单修改，可以在保持高质量样本的同时达到具有竞争力的对数似然值，并学习反向扩散过程的方差，从而使用数量级更少的正向传递采样。使用精度和召回率比较 DDPM 和 GAN 模型的性能，并证明这些模型的样本质量和似然值可以与模型容量和训练计算平稳地提高。

    Feb, 2021

  • 去噪扩散隐式模型

    本文描述了一种更高效的迭代隐式概率模型 —— 去噪扩散隐式模型（DDIMs），通过构建一类非马尔科夫扩散过程来加速采样过程，相对于去噪扩散概率模型（DDPMs）可以使采样速度提升 10 倍至 50 倍。这种模型可以用于图像生成和语义意义化的图像内插。

    Oct, 2020

  • 医学图像生成的快速去噪扩散概率模型

    Fast-DDPM 是一种简单而有效的方法，可同时提高训练速度、采样速度和生成质量，通过仅使用 10 个时间步进行训练和采样，相比 DDPM，Fast-DDPM 能够在医学图像生成任务中优于基于卷积网络和生成对抗网络的当前最先进方法，并将训练时间缩短了 5 倍，采样时间缩短了 100 倍。

    May, 2024

  • 六个简单步骤的去噪扩散概率模型

    通过六个简单步骤清晰陈述，简化并阐明噪声扩散概率模型（DDPM）的构建及其工作原理。

    Feb, 2024

  • 超越 U：打造更快速、更轻量级的扩散模型

    利用连续动力系统设计一种新型去噪网络，以提高扩散模型的参数效率、收敛速度和噪声鲁棒性。与基准模型相比，该模型具有约四分之一的参数量和百分之三十的浮点操作数（FLOPs），推理速度提高了 70％，并且收敛到了更好的质量解。

    Oct, 2023

  • PartDiff：利用部分扩散模型的图像超分辨率

    通过学习逐渐将数据分布扩散为高斯噪声的过程，并以随机噪声进行迭代去噪处理，去噪扩散概率模型（DDPMs）在各种图像生成任务中取得了令人印象深刻的性能。本文提出了部分扩散模型（PartDiff），通过将图像扩散到中间潜在状态而不是纯随机噪声来生成新数据，并采用近似于低分辨率图像扩散的潜在状态来逼近中间潜在状态。实验证明，与纯扩散基础的超分辨率方法相比，部分扩散模型可以显著减少去噪步骤的数量而不损失生成的质量。

    Jul, 2023

  • 离散状态空间中的结构去噪扩散模型

    本文提出了离散去噪扩散概率模型（D3PM），用于离散数据的扩散式生成模型，包括了仿真高斯核、嵌入空间中基于最邻近、引入吸收状态等过渡矩阵。研究表明过渡矩阵的选择对图像和文本领域下的生成模型结果至关重要，且提出的新损失函数在字符级别文本生成上取得了很好的效果。

    Jul, 2021

  • 一种基于条件去噪扩散概率模型的点云上采样方法

    本研究提出了一种基于条件去噪扩散概率模型（DDPM）的点云上采样方法，称为 PUDM。PUDM 通过对稀疏点云进行条件建模，学习了稠密点云和噪声之间的转换关系，并利用双映射范式提高点特征的辨别力。此外，PUDM 还通过参数化速率因子，在训练过程中利用稀疏点云和稠密点云之间的比例关系生成高质量的任意尺度点云，实验结果表明其具有较强的噪声鲁棒性，相比现有方法，在 Chamfer 距离和 Hausdorff 距离上取得了最先进的性能。

    Dec, 2023

  • 双边去噪扩散模型

    该论文提出了新的双边去噪扩散模型（BDDMs）来提高样本生成的质量和速度，其可以更加高效和简单地训练，以及进一步优化先前训练好的模型。

    Aug, 2021

  • UNIT-DDPM: 带去噪扩散概率模型的非配对图像翻译

    提出一种新颖的无需对抗训练的图像分类方法，该方法使用基于去噪扩散概率模型的单张图像转换方法。我们的方法是通过最小化以另一个域为条件的去噪得分匹配目标来训练生成模型以推断图像的联合分布。我们同时更新域翻译模型，并通过基于 Langevin 动力学的去噪马尔科夫链蒙特卡罗方法来生成目标域图像。该方法在几个公共数据集上实现了最先进的 Frechet Inception Distance（FID）性能，包括彩色和多光谱影像，并明显优于当前的对抗图像转换方法。

    Apr, 2021