Dec, 2023

扩散模型的分辨率色谱

PDF
TL;DR通过迭代随机过程，扩散模型产生高分辨率图像。本文介绍了 “分辨率色谱”，它表示每个分辨率的信号生成速度，有助于数学解释生成过程中的粗糙到精细的行为，理解噪音调度的作用，并设计时间相关的调制。利用分辨率色谱，我们确定在特定时间步骤上哪个分辨率级别成为主导，并利用文本到图像扩散模型实验验证了我们的理论。我们还提出了一些利用该概念的直接应用：将预训练模型升级到更高分辨率和时间相关的提示组合。我们的理论不仅能更好地理解众多处理图像生成的现有技术，还暗示了设计更好的噪音调度的潜力。
diffusion modelsresolution chromatographycoarse-to-fine behaviorgeneration processnoise schedule
发现论文，激发创造
  • 细节保留图像去噪的重建生成扩散模型

    提出了一种称为重建生成扩散模型 (RnG) 的新方法，该方法利用重建去噪网络恢复绝大部分底层干净信号，并采用扩散算法生成剩余的高频细节，从而提高视觉质量和感知度。通过在合成和真实去噪数据集上进行广泛实验验证了该方法的优越性。

    Sep, 2023

  • 扩散模型实现实际噪声抑制

    本文介绍了一种基于扩散模型的新型通用去噪扩散模型，采用线性插值进行扩散，中间的噪声图像从原始的清晰图像和相应的真实噪声图像进行插值，使得该扩散模型可以处理添加噪声的级别，并且提出了两种采样算法，实验证明该模型在真实去噪基准测试中表现良好。

    May, 2023

  • 时钟扩散：基于模型步骤提炼的高效生成

    该研究旨在提高文本到图像扩散模型的效率，通过周期性地重复利用计算以近似低分辨率特征图，在保持感知分数可比拟或改善的同时，大大减少了计算复杂度。

    Dec, 2023

  • 视觉中的扩散模型：一项调研

    本综述为关于应用于计算机视觉的去噪扩散模型文章提供了全面的回顾，包括在领域中的理论和实际贡献，提供了三种通用扩散建模框架，并介绍了扩散模型与其他深度生成模型之间的关系，并引入了在计算机视觉中应用扩散模型的多个视角分类，最后，我们说明了离散模型的当前限制并预见了未来研究的一些有趣方向。

    Sep, 2022

  • 视频生成的扩散概率建模

    本文提出了一种自回归、端到端优化的视频扩散模型，受到神经视频压缩技术的启发，可用于生成高质量的视频，并提出了可扩展的连续排名概率得分（CRPS）方法，以评估视频的概率预测能力，该方法在自然和仿真视频的多个数据集上比先前方法的感知质量和概率预测有着显著的提高。

    Mar, 2022

  • 用扩散模型去噪蒙特卡洛渲染

    扩散模型对低分辨率图像进行去噪，利用自然渲染信息进行条件控制，与现有方法在不同采样率下有较强竞争力，但当前指标未能准确评估重建质量。

    Mar, 2024

  • 并非所有步骤相等：高效生成与渐进传播模型

    提出了一种名为 Step-Adaptive Training 的创新训练策略，通过在初始阶段训练一个基础去噪模型来涵盖所有时间步长，然后将时间步长分成不同的组，在每个组内进行微调以实现专门的去噪能力，这种方法不仅提高了模型性能，还显著降低了计算成本。

    Dec, 2023

  • 一种廉价的扩展方法：用于高分辨率适应的自级联扩散模型

    本文提出了一种新颖的自级联扩散模型，通过利用低分辨率模型的丰富知识快速适应高分辨率图像和视频生成，使用无需调优或廉价上采样器调优范例。该自级联扩散模型整合了一系列多尺度上采样器模块，可以有效地适应更高的分辨率，保持原始组合和生成能力。我们进一步提出了一种基于中心引导的噪声重新调度策略，以加快推理过程并提高局部结构细节。与完全微调相比，我们的方法在训练速度上提高了 5 倍，并且仅需要额外的 0.002M 调优参数。广泛的实验表明，我们的方法可以通过仅仅进行 10k 步的微调，快速适应更高分辨率的图像和视频合成，几乎不需要额外的推理时间。

    Feb, 2024

  • 动态双输出扩散模型

    在这篇文章中，我们发现了扩散模型生成质量受到迭代次数限制的根本原因，并提出了一个简单而有效的解决方案来缓解这些影响。我们的解决方案可以应用于任何现有的扩散模型，并且在各种 SOTA 体系结构上运行多个数据集和配置进行实验和详尽的消融研究，证明能够立即提高它们的生成质量。

    Mar, 2022

  • 基于去噪任务难度的浸润模型训练的课程学习

    通过对任务困难度、收敛行为和概率分布间相对熵的变化进行综合观察，我们发现较早的时间步骤的去噪任务存在收敛缓慢和相对熵高的挑战，因此我们提出了一个易难混合的学习方案，借鉴了课程学习的思想，在训练过程中将时间步骤或噪声水平划分为难度递减的簇，并按顺序进行模型训练，以从易到难进行去噪任务，从而改变了同时跨越所有时间步骤训练扩散模型的传统方法。我们的方法通过利用课程学习的好处，提高了性能和收敛速度，并与扩散训练技术的现有改进保持正交性。我们通过在无条件生成、类条件生成和文本转图像生成等图像生成任务上的全面实验证实了这些优势。

    Mar, 2024