通过提出一个统一的采样框架（USF）研究求解器的可选策略，我们进一步揭示出采取不同的求解策略在不同的时间步骤可能有助于进一步减少截断误差，且精心设计的求解器计划有潜力在较大程度上提高样本质量。我们还提出了 $S^3，一个基于预测模型的搜索方法，可以自动优化求解器计划以获取更好的时间 - 质量权衡。通过对 CIFAR-10、CelebA、ImageNet 和 LSUN-Bedroom 数据集的实验证明，$S^3 能够找到优秀的求解器计划，在 10 次函数评估下实现了 2.69 的 FID，5 次函数评估下实现了 6.86 的 FID，明显优于现有方法。此外，我们还将 $S^3 应用于稳定扩散模型，获得了 2 倍的加速比，展示了在非常少的步骤中进行采样而无需重新训练神经网络的可行性。

Dec, 2023

该研究通过对扩散概率模型中的随机采样进行综合分析，从方差控制的扩散 SDE 和线性多步 SDE 求解器两个方面提出了改进的高效随机 Adams 方法 SA-Solver，用于生成高质量的数据，在少量函数评估次数下取得改进或可比性能，并在适当的函数评估次数下在大规模基准数据集上获得 SOTA FID 分数。

Sep, 2023

本文提出了一种用于采样扩散概率模型的快速高阶求解器 DPM-Solver，并通过自适应求解扩散常微分方程，可在数百或数千步骤内使用较小的神经网络采样高质量样本，相比于以往方法有明显速度优势

Jun, 2022

扩散基于生成模型使用随机微分方程和其等效的常微分方程在复杂数据分布与可追踪的先验分布之间建立平滑连接。本文中，我们发现扩散模型的基于常微分方程的采样过程中存在着一些有趣的轨迹特性。我们表征了一个隐式去噪轨迹，并讨论了其在形成具有强形状规律性的耦合采样轨迹中的重要作用，无论生成的内容是什么。我们还描述了一种基于动态规划的方案，使得采样的时间安排更好地适应底层轨迹结构。这种简单的策略对于任何给定的基于常微分方程的数值求解器只需要最小的修改，并且在计算成本几乎可忽略的情况下，能够在图像生成中提供卓越的性能，特别是在 5 到 10 个函数评估中。

May, 2024

通过对扩散模型的采样调度进行优化，我们提出了一种通用的、有原则的方法，称为 “调整您的步骤”，以实现高质量输出，并观察到我们优化的调度在几乎所有实验中优于以前手工制作的调度。

Apr, 2024

介绍了一种新的框架 ——“定制 ODE 求解器”，用于构建针对预训练流模型的自定义 ODE 求解器，优化了顺序一致和参数高效的求解器，并在逼近质量和生成质量方面与专用求解器相比显著提高。

Oct, 2023

提出了一种适用于扩散概率模型的高效取样器，通过引入分数积分解算器和递归导数估计方法，实现了具有收敛性保证的高效取样算法，与现有的无需预训练的取样算法相比，在离散时间和连续时间的扩散概率模型上取得了最先进的取样性能。

Aug, 2023

通过将采样过程定义为扩展的逆时间随机微分方程 (ERSDE)，我们提出了 ER-SDE 求解器，为扩散模型 (DM) 的图像生成速度带来了突破性的提升，并在 ImageNet 64×64 数据集上实现了 3.45 FID 的效果。

Sep, 2023

通过几何观察每条采样轨迹几乎位于嵌入环境空间中的二维子空间中，我们提出了一种名为 AMED-Solver 的近似均值方向求解器，通过直接学习均值方向来消除截断误差进行快速扩散采样，并且可以作为插件进一步改进现有的基于 ODE 的采样器。

Nov, 2023

本文提出 DPM-Solver++，一种高阶求解器，用于改善和加速基于指南的扩散概率模型的采样质量，并且比先前的高阶求解器更稳定和快速。实验证明，在像素空间和潜空间 DPM 的引导采样中，DPM-Solver++ 仅需要 15 到 20 步即可生成高质量样本。

Nov, 2022