指数积分快速采样扩散模型
通过重新评估高阶微分求解器设计,揭示现有高阶指数积分器求解器的退化源于关键的阶次条件的缺失,并结合指数积分器理论,提出满足所有阶次条件的改进指数积分求解器,即细化指数求解器(RES),利用这些改进的求解器,RES 在理论上具有更有利的误差上界,并在实际应用中实现了更高的采样效率和稳定性。
Aug, 2023
在这篇研究中,提出了一种名为 DEIS-SN 的方法,通过对得分进行重新参数化,并减少集成误差来改进从扩散模型生成样本的质量,实验结果表明在 10 个函数评估中,FID 从 6.44 降低到 5.57。
Oct, 2023
快速、确定性 / 随机采样是拓展扩散模型类别的原则性框架,我们提出的补充性框架是共轭积分器和分裂积分器,经过广泛的实证和理论研究,在扩展空间中取得了最好的性能,应用于 CIFAR-10 的相空间朗之万扩散模型,我们的确定性和随机采样器在仅 100 次网络函数评估中获得了 FID 分数分别为 2.11 和 2.36,相比之下,最好的基线结果分别为 2.57 和 2.63。
Oct, 2023
扩散模型的实例教学方法和分布教学方法在图像生成模型方面取得了显著的研究成果,提出的分布教学方法在减少训练图像数量的同时取得了最先进的结果,提高了对高效图像生成模型的理解并为各种应用提供了可扩展的框架。
May, 2024
提出了快速扩散模型(FDM),它将扩散模型(DM)的扩散过程从随机优化角度进行改进,以加速训练和采样。实验证明,FDM 可以应用于多种流行的 DM 框架,并在 CIFAR-10、FFHQ 和 AFHQv2 数据集上具有可比的图像合成性能。而且,FDM 通过将采样步骤减少约 3 倍来实现相似的性能,从而将训练成本降低约 50%。
Jun, 2023
本文提出了一种用于采样扩散概率模型的快速高阶求解器 DPM-Solver,并通过自适应求解扩散常微分方程,可在数百或数千步骤内使用较小的神经网络采样高质量样本,相比于以往方法有明显速度优势
Jun, 2022
通过新的参数化方法和扩散模型的渐进提炼过程,从而在不降低感知质量的前提下将采样步骤尽量减少到四步,从而提高了采样效率,并为生成建模提供了高效的解决方案。
Feb, 2022
提出了一种适用于扩散概率模型的高效取样器,通过引入分数积分解算器和递归导数估计方法,实现了具有收敛性保证的高效取样算法,与现有的无需预训练的取样算法相比,在离散时间和连续时间的扩散概率模型上取得了最先进的取样性能。
Aug, 2023
通过设计一个优化问题,并使用约束信任区域方法,我们提出了一种针对特定数值 ODE 解算器的扩散概率模型 (DPMs) 寻找更合适的时间步长的通用框架,该框架能显著改善图像生成性能。
Feb, 2024