Nov, 2023

关于使用扩散模型生成合理设计的噪声调度

PDF
TL;DR通过研究噪声计划对扩散模型的影响，我们提出了两种确定给定图像集合的合理噪声范围的技术，并设计了一种新的参数化噪声计划，以获得更好的合理性。将此噪声计划应用于已知的扩散模型 EDM 的训练和采样，并将其与默认噪声计划进行比较，结果显示我们的计划将可行设计从 83.4％提高到 93.5％，Fréchet Inception Distance（FID）从 7.84 降低到 4.87。进一步的高级图像编辑工具应用证明了该模型对结构的良好理解。
deep generative modelsstructural design generationplausibilitynoise schedulesparametric noise schedule
发现论文，激发创造
  • 异形山谷：扩散模型的全面分析

    通过扩散模型（Diffusion Models），我们在生成高质量图像方面取得了重要进展，通过系统研究不同扩散模型架构的关键方面，如噪声调度、采样器和引导，我们深入探索了这些模型的核心操作原理。通过全面分析这些模型，我们揭示了它们隐藏的基础机制，揭示了对其有效性至关重要的隐藏关键因素。我们的分析强调了决定模型性能的隐藏关键因素，为扩散模型的发展提供了见解。

    Feb, 2024

  • 高效学习从扩散概率模型中采样

    提出了一种动态规划算法，基于 ELBO 分解原理，可用于任何预先训练的 DDPM，通过优化推理时间表来发现最优的离散时间表，从而实现生成速度与样本质量之间的平衡。

    Jun, 2021

  • 评估去噪扩散概率模型在重现空间上下文方面的能力

    通过使用随机上下文模型（SCMs）产生训练数据，首次对 Denoising Diffusion Probabilistic Models（DDPMs）在医学成像领域相关信息学习能力进行了系统评估，结果表明 DDPMs 在生成具有空间上下文的图像方面具有显著的能力，可能在数据增强任务中具有 GANs 所不能达到的优势。

    Sep, 2023

  • 改进扩散训练的噪声计划

    我们提出了一种设计噪声时间表以增强扩散模型训练效果的新方法，并通过在 ImageNet 基准测试上的实验结果展示了该设计的优越性。

    Jul, 2024

  • 具有位置 - 尺度噪声的扩散模型

    通过研究了不同的噪声分布（高斯分布和非高斯分布），我们发现扩散模型中高斯分布的噪声可以最好地用于生成数据，因此我们可以使用与非高斯噪声相关的扩散过程来确定噪声分布的选择。

    Apr, 2023

  • 优化扩散模型中的采样计划对齐步骤

    通过对扩散模型的采样调度进行优化，我们提出了一种通用的、有原则的方法，称为 “调整您的步骤”，以实现高质量输出，并观察到我们优化的调度在几乎所有实验中优于以前手工制作的调度。

    Apr, 2024

  • 加速扩散模型的训练：一种一致性现象的启示

    扩散模型在近年来引起了广泛关注，然而其高计算成本限制了实际应用，本文通过研究发现了扩散模型的稳定性，并提出了两种训练加速策略，即课程学习的时间步骤调度和动量衰减策略。实验结果表明，这些策略可以显著减少训练时间并提高生成图像的质量。

    Mar, 2024

  • 约束满足的投影式生成扩散模型

    本文介绍了一种投影生成扩散模型（PGDM），通过对约束优化问题的迭代投影方法，使生成的数据忠实地遵循指定的约束条件或物理原理，并在复杂非凸约束和常微分方程的情况下进行了大量的理论和实证支持，展示了在视频生成中的物理信息运动、路径规划中的轨迹优化以及材料科学中形态特性的遵循等方面的能力。

    Feb, 2024

  • 通过扩散模型实现语义图像合成

    本篇论文提出了一种基于 DDPM 的新型框架，用于语义图像合成，通过条件扩散模型来处理语义布局与噪声图像，而引入分类器自由的引导采样策略来进一步提高了生成质量和语义可解释性。

    Jun, 2022

  • 半隐式去噪扩散模型（SIDDM）

    通过匹配隐式和显式因素，我们提出了一种新的方法，以解决生成模型中的采样难题，该方法利用隐式模型匹配噪声数据的边缘分布和前向扩散的显式条件分布，以有效地匹配联合降噪分布，并获得与扩散模型相当的生成性能和比采样步骤少的模型相比更好的结果。

    Jun, 2023