通过新的参数化方法和扩散模型的渐进提炼过程,从而在不降低感知质量的前提下将采样步骤尽量减少到四步,从而提高了采样效率,并为生成建模提供了高效的解决方案。
Feb, 2022
本文介绍了一种将分类器自由引导扩散模型蒸馏为更快采样的方法,以减少推理时间,并取得了与原始模型相当的图像有效性。
Oct, 2022
本综述主要介绍了最近视觉领域中扩散模型的进展,特别是那些影响扩散模型计算效率的重要设计方面,重点是强调了最近提出的设计选择,这些选择导致更高效的扩散模型。
本文介绍了一种新的方法ParaDiGMS,通过并行执行多个去噪步骤来加速预训练扩散模型的采样速度。该方法通过使用Picard迭代猜测未来去噪步骤的解,并迭代地进行加工,从而使扩散采样过程可以并行化,使计算机可用性更高。使用ParaDiGMS,各种机器人和图像生成模型的采样速度提高2-4倍,无论对任务奖励、FID分数、还是CLIP分数都没有任何可感知的退化。
May, 2023
我们提出了一种统一的框架来在扩散模型中实现有效的图像生成,其中搜索最佳时间步骤序列和压缩模型架构,无需进一步的训练。通过引入两阶段进化算法和使用生成和真实样本之间的FID评分来加速搜索过程,该方法在仅使用几个时间步骤时实现了出色的性能。
Sep, 2023
使用Trajectory Stitching T-Stitch技术,通过使用较小的diffusion probabilistic model(DPM)进行初始步骤,然后在后续阶段转换为更大的DPM,实现采样效率的提高而无需降低生成质量。该方法是无需训练的,适用于不同结构,能够在速度和质量之间灵活权衡。
Feb, 2024
设计了加速常见确定性和随机抽样算法的训练免费算法,加速度确定性和随机抽样器的汇率超过 DDIM 和 DDPM 抽样器的速度。
Mar, 2024
扩散模型是强大且通用的生成式人工智能技术,在计算机视觉、音频、强化学习和计算生物学等领域取得了巨大的成功。本文回顾了扩散模型的新兴应用,理解了它们在各种控制下的样本生成。同时,我们概述了现有的扩散模型理论,涵盖了它们的统计性质和采样能力。进一步地,我们评述了通过条件扩散模型进行高维结构化优化的新途径,将解决方案的搜索重新定义为条件采样问题,并通过扩散模型进行求解。最后,我们讨论了扩散模型的未来发展方向。本文旨在为刺激前瞻性的扩散模型理论和方法提供全面的理论介绍。
Apr, 2024
该论文介绍了扩散拒绝采样(DiffRS)方法,它使用拒绝采样方案,在每个时间步中将采样转换核与真实核对齐。该方法可以视作在每个中间时间步评估样本质量并根据样本的不同努力对其进行改进的机制。理论分析表明,与预训练模型相比,DiffRS可以实现更紧的采样误差边界。实证结果证明了DiffRS在基准数据集上的最先进性能以及在快速扩散采样器和大规模文本到图像扩散模型上的有效性。
May, 2024
本文提出了一种基于图像谱分析的扩散过程时间步长采样方法,旨在优化去噪过程,并通过验证实验证明其在图像合成效果和计算效率上优于传统的均匀分布采样方法。
Jul, 2024