Nov, 2023

一类基于评分的生成模型的Wasserstein收敛保证

TL;DR在本研究中,我们针对具有最先进性能的分数生成模型(SGMs)这一最新类别的深度生成模型,基于确切的评分估计和平滑的对数凹分布假设,在2-Wasserstein距离上提出了收敛性保证。我们针对几种具体的SGM模型将结果特化,这些模型采用了由随机微分方程建模的前向过程的特定选择,并获得了每个模型的迭代复杂度的上界,从而展示了不同前向过程选择的影响。当数据分布为高斯分布时,我们还提供了一个下界。在数值上,我们使用不同前向过程的SGMs进行CIFAR-10的无条件图像生成实验。我们发现实验结果与我们关于迭代复杂度的理论预测非常吻合,并且具有我们新提出的前向过程的模型可以胜过现有模型。