May, 2023
待机蒸馏:训练一次即可加速抽样
Catch-Up Distillation: You Only Need to Train Once for Accelerating Sampling
Shitong Shao, Xu Dai, Shouyi Yin, Lujun Li, Huanran Chen...
TL;DR为了解决 Diffusion Probability Models 生成样本所需的采样步骤大量增加的问题,文章提出了一种基于 Catch-Up Distillation (CUD) 的算法,通过多步对齐蒙古采样输出来实现精确 ODE 估计,成功地在 CIFAR-10,MNIST 和 ImageNet-64 数据集上取得了比较优异的效果。