加速基于得分的扩散模型的收敛性证明
该研究发展了一套用于理解离散时间下扩散模型数据生成过程的非渐进理论,对于一种常见的确定性采样方法,该理论建立了一个与步骤总数 $T$ 成反比例的收敛速率,对于另一种主流随机采样方法,该理论得出了一个与步骤总数 $T$ 的平方根成反比例的收敛速率,同时设计了两种加速变体,进一步提高了收敛速度。
Jun, 2023
提出了一种适用于扩散概率模型的高效取样器,通过引入分数积分解算器和递归导数估计方法,实现了具有收敛性保证的高效取样算法,与现有的无需预训练的取样算法相比,在离散时间和连续时间的扩散概率模型上取得了最先进的取样性能。
Aug, 2023
通过 Differentiable Diffusion Sampler Search 方法优化 Diffusion Models 的 samplers,使用 Generalized Gaussian Diffusion Models 生成高质量的样本,实现无条件图像生成。
Feb, 2022
本文提出了一种基于矩阵预调和扩散采样的方法,可加速得分为基础的生成模型(SGMs)的推断,特别在更具挑战性的高分辨率图像生成时,其速度可提高 29 倍,而不影响合成质量。
Jul, 2022
本文提出 DPM-Solver++,一种高阶求解器,用于改善和加速基于指南的扩散概率模型的采样质量,并且比先前的高阶求解器更稳定和快速。实验证明,在像素空间和潜空间 DPM 的引导采样中,DPM-Solver++ 仅需要 15 到 20 步即可生成高质量样本。
Nov, 2022
通过设计一个优化问题,并使用约束信任区域方法,我们提出了一种针对特定数值 ODE 解算器的扩散概率模型 (DPMs) 寻找更合适的时间步长的通用框架,该框架能显著改善图像生成性能。
Feb, 2024
FastDPM 是一种用于快速抽样扩散概率模型的统一框架,通过在不同领域、不同数据集上系统地研究该框架下的快速抽样方法,探讨了特定方法在不同数据领域、抽样速度与质量权衡以及条件信息的数量上的性能差异,并为从业者提供了选择方法的洞见和配方。
May, 2021
本文提出了一种用于采样扩散概率模型的快速高阶求解器 DPM-Solver,并通过自适应求解扩散常微分方程,可在数百或数千步骤内使用较小的神经网络采样高质量样本,相比于以往方法有明显速度优势
Jun, 2022