Jul, 2023

空间频率 U-Net 用于去噪扩散概率模型

PDF
TL;DR本研究使用 SFUNet 架构，以小波域而非像素空间中的 denoising diffusion probabilistic model (DDPM) 进行图像合成，通过捕捉空频域的相关性来改进像素数据的标准去噪 U-Net 结构，从而提高 CIFAR-10、FFHQ、LSUN-Bedroom 和 LSUN-Church 数据集上的图像合成质量。
denoising diffusion probabilistic modelwavelet spacesfunetspatial frequency-aware convolutionimage synthesis
发现论文，激发创造
  • 超越 U：打造更快速、更轻量级的扩散模型

    利用连续动力系统设计一种新型去噪网络，以提高扩散模型的参数效率、收敛速度和噪声鲁棒性。与基准模型相比，该模型具有约四分之一的参数量和百分之三十的浮点操作数（FLOPs），推理速度提高了 70％，并且收敛到了更好的质量解。

    Oct, 2023

  • 解构扩散模型中 Unet 的时态动力学

    通过研究 Unet 在去噪扩散概率模型中的动态行为，我们系统评估了时间步长和核心 Unet 组件对最终输出的影响，发现其中的生成阶段和 Unet 在推断中的使用模式，进而识别出改进 DDPM 中的冗余以提高推断速度，同时在输出质量方面几乎没有损失。我们的目标是为推断过程指导更明智的优化策略并影响新模型设计。

    Dec, 2023

  • UDPM: 上采样扩散概率模型

    本文介绍了一种基于 Markovian 过程的 Upsampling Diffusion Probabilistic Model（UDPM），相较于传统的 Denoising Diffusion Probabilistic Models（DDPM），它在降低潜变量维度的同时，仅需 7 个扩散步骤即可生成 $256 imes 256$ 的高清图像。

    May, 2023

  • SFFNet：基于小波的遥感分割的空间和频域融合网络

    为了充分利用空间信息进行分割并解决遥感图像中灰度变化显著区域的挑战，我们提出了 SFFNet（Spatial and Frequency Domain Fusion Network）框架。该框架采用两阶段网络设计：第一阶段使用空间方法提取特征，以获取具有足够空间细节和语义信息的特征；第二阶段在空间和频域中映射这些特征。在频域映射中，我们引入了小波变换特征分解器（WTFD）结构，该结构使用 Haar 小波变换将特征分解为低频和高频成分，并将其与空间特征进行融合。为了弥合频域和空域特征之间的语义差距，并便于进行显著特征选择以促进来自不同表示域的特征组合，我们设计了多尺度双重表示对齐滤波器（MDAF）。该结构利用多尺度卷积和双交叉注意力机制。全面的实验结果表明，与现有方法相比，SFFNet 在 mIoU 方面表现出卓越性能，分别达到 84.80% 和 87.73%。

    May, 2024

  • UNIT-DDPM: 带去噪扩散概率模型的非配对图像翻译

    提出一种新颖的无需对抗训练的图像分类方法，该方法使用基于去噪扩散概率模型的单张图像转换方法。我们的方法是通过最小化以另一个域为条件的去噪得分匹配目标来训练生成模型以推断图像的联合分布。我们同时更新域翻译模型，并通过基于 Langevin 动力学的去噪马尔科夫链蒙特卡罗方法来生成目标域图像。该方法在几个公共数据集上实现了最先进的 Frechet Inception Distance（FID）性能，包括彩色和多光谱影像，并明显优于当前的对抗图像转换方法。

    Apr, 2021

  • 通过扩散模型实现语义图像合成

    本篇论文提出了一种基于 DDPM 的新型框架，用于语义图像合成，通过条件扩散模型来处理语义布局与噪声图像，而引入分类器自由的引导采样策略来进一步提高了生成质量和语义可解释性。

    Jun, 2022

  • 无注意力的扩散模型

    高分辨率图像生成中的噪声扩散概率模型（DDPM）是研究的关键，通过引入扩散状态空间模型（DiffuSSM）架构来处理高分辨率图像的生成和表示，从而显著降低计算复杂度，并展示了与使用注意力模块的扩散模型相媲美甚至优于的生成图像质量和计算效率。

    Nov, 2023

  • 脉冲去噪扩散概率模型

    本文提出了一种新的基于脉冲神经网络的生成模型 ——SDDPM，通过仅使用 4 个时间步骤的纯脉冲 U-Net 体系结构，实现与其 ANN 模型的可比性能，从而充分利用脉冲神经网络的能源效率，并在 CIFAR-10 和 CelebA 数据集上实现了卓越的性能，是脉冲神经网络生成领域的重大进展。

    Jun, 2023

  • 使用扩散概率模型进行深超声波降噪

    本研究提出了一种基于 DDPM 的无监督去噪方法，可改善超声图像的质量并保留散斑纹理特征，在泛化对比噪声比和噪声峰值信噪比方面优于以往方法。

    Jun, 2023

  • 医学图像生成的快速去噪扩散概率模型

    Fast-DDPM 是一种简单而有效的方法，可同时提高训练速度、采样速度和生成质量，通过仅使用 10 个时间步进行训练和采样，相比 DDPM，Fast-DDPM 能够在医学图像生成任务中优于基于卷积网络和生成对抗网络的当前最先进方法，并将训练时间缩短了 5 倍，采样时间缩短了 100 倍。

    May, 2024