Dec, 2023
普适的扩散概率模型求解搜索统一抽样框架
A Unified Sampling Framework for Solver Searching of Diffusion Probabilistic Models
Enshu Liu, Xuefei Ning, Huazhong Yang, Yu Wang
TL;DR通过提出一个统一的采样框架（USF）研究求解器的可选策略，我们进一步揭示出采取不同的求解策略在不同的时间步骤可能有助于进一步减少截断误差，且精心设计的求解器计划有潜力在较大程度上提高样本质量。我们还提出了 $S^3，一个基于预测模型的搜索方法，可以自动优化求解器计划以获取更好的时间 - 质量权衡。通过对 CIFAR-10、CelebA、ImageNet 和 LSUN-Bedroom 数据集的实验证明，$S^3 能够找到优秀的求解器计划，在 10 次函数评估下实现了 2.69 的 FID，5 次函数评估下实现了 6.86 的 FID，明显优于现有方法。此外，我们还将 $S^3 应用于稳定扩散模型，获得了 2 倍的加速比，展示了在非常少的步骤中进行采样而无需重新训练神经网络的可行性。