ICMLJul, 2021

超越原地损坏：插入和删除在去噪概率模型中

PDF
TL;DR本文提出了一种更广泛的 DDPMs，能够处理序列数据中插入和删除元素的噪声，该模型在算术序列任务和 text8 数据集上表现出较好的结果，并可用于拼写错误的修复。
denoising diffusion probabilistic modelssequence generationcorruption processesdenoising modelsspelling errors
发现论文，激发创造
  • 可编辑的 DDPM 噪声空间：反演和操作

    该研究提出一种针对去噪扩散概率模型 (DDPM) 的替代性噪声空间，以便进行广泛的编辑操作，并介绍了一种反演方法，用于提取任何给定图像（真实或人工生成的）的适合进行编辑的噪声生成图。

    Apr, 2023

  • 离散状态空间中的结构去噪扩散模型

    本文提出了离散去噪扩散概率模型（D3PM），用于离散数据的扩散式生成模型，包括了仿真高斯核、嵌入空间中基于最邻近、引入吸收状态等过渡矩阵。研究表明过渡矩阵的选择对图像和文本领域下的生成模型结果至关重要，且提出的新损失函数在字符级别文本生成上取得了很好的效果。

    Jul, 2021

  • 微小预训练数据的损坏改进扩散模型

    通过对扩散模型（DMs）预训练数据的综合研究，发现轻微的破坏性改变可以显著提高 DMs 生成图像的质量和多样性，同时介绍了一种简单的方法 —— 条件嵌入扰动（CEP），可大幅改善 DMs 在预训练和后续任务中的性能。

    May, 2024

  • 扩散模型的推断稳定性

    提出了一种新的序列感知损失函数，以减小估计误差从而提高采样质量，并通过实验证明了该方法相比于传统损失函数在图像泛化质量方面的显著改进。

    Dec, 2023

  • 借助基于 Glyph 条件去噪扩散概率模型生成的训练样本改进手写 OCR

    提出一种 DDPM 概率模型用于生成手写体图像样本，并引入渐进式数据过滤策略，可将 OCR 模型在 IAM 基准任务上的错误率相对降低 45%。

    May, 2023

  • 环境扩散：从损坏的数据中学习干净的分布

    介绍了一种基于扩散的框架，可以使用高度损坏的样本学习未知分布，通过在扩散过程中引入附加的测量损坏，并要求模型从进一步损坏的图像中预测原始损坏的图像，来学习完整未损坏图像的条件期望。

    May, 2023

  • 改进降噪扩散概率模型

    通过对 DDPM 模型进行简单修改，可以在保持高质量样本的同时达到具有竞争力的对数似然值，并学习反向扩散过程的方差，从而使用数量级更少的正向传递采样。使用精度和召回率比较 DDPM 和 GAN 模型的性能，并证明这些模型的样本质量和似然值可以与模型容量和训练计算平稳地提高。

    Feb, 2021

  • 去噪扩散概率模型的生成型量子机器学习

    基于经典对应物，我们提出了量子去噪扩散概率模型（QuDDPM），以实现对量子数据的高效可训练生成学习。

    Oct, 2023

  • 医学图像生成的快速去噪扩散概率模型

    Fast-DDPM 是一种简单而有效的方法，可同时提高训练速度、采样速度和生成质量，通过仅使用 10 个时间步进行训练和采样，相比 DDPM，Fast-DDPM 能够在医学图像生成任务中优于基于卷积网络和生成对抗网络的当前最先进方法，并将训练时间缩短了 5 倍，采样时间缩短了 100 倍。

    May, 2024

  • 硬件受损通信系统的去噪扩散概率模型：朝着无线生成 AI

    本文提出了基于去噪扩散概率模型的无线通信方案，旨在解决实际应用中的硬件损伤、信道失真和量化误差等非理想因素，提供低信噪比下的网络韧性、对不同硬件损伤水平和量化误差的近不变重建性能，以及抵抗非高斯噪声的强大分布外表现，并通过余弦相似度和均方误差（MSE）评估与传统深度神经网络（DNN）接收机相比的超过 25 dB 改进的重建性能。

    Oct, 2023