基于得分的生成模型与自适应动量
本文介绍了一种新的生成模型,利用评分匹配来估计数据分布的梯度,通过Langevin动力学生成样本。我们的框架使得模型架构更加灵活,无需在训练期间进行抽样或使用对抗性方法,提供了可用于基于原则的模型比较的学习目标。在MNIST、CelebA和CIFAR-10数据集上,我们的模型产生的样本与GAN相当,实现了CIFAR-10 inception得分的新的最先进水平为8.87。此外,我们通过图像修补实验证明了我们的模型学习到了有效的表示。
Jul, 2019
本文提出了一种基于随机微分方程的得分模型生成方法,通过缓慢注入噪声将复杂数据分布平滑地转换为已知的先验分布,并通过缓慢地消除噪声将先验分布转换回数据分布,同时利用基于神经网络的得分生成建模技术可以精确估计这些得分,并使用数值微分方程求解器生成样本。
Nov, 2020
本文提出一种利用自适应步长的随机微分方程求解器来加速基于评分的生成模型,方法能够稳定高效地生成高质量的数据,特别是在高分辨率图像生成方面表现优异。
May, 2021
通过引入一种新的,临界阻尼Langevin扩散,该文提出一种基于分数的生成模型框架,它可以更轻松地学习条件分布的速度得分函数,这比直接学习数据分数函数要容易得多,并用于高分辨率图像合成任务。
Dec, 2021
本文提出了一种基于矩阵预调和扩散采样的方法,可加速得分为基础的生成模型(SGMs)的推断,特别在更具挑战性的高分辨率图像生成时,其速度可提高29倍,而不影响合成质量。
Jul, 2022
该研究从几何角度探讨了基于得分模型的扩散生成模型,证明了加噪声和从噪声生成的正向和反向过程在概率测度空间中是 Wasserstein 梯度流。同时给出了附加传统得分模型的投影步骤的直观几何解决方案,提出了减少采样时间的方法。
Feb, 2023
提出了快速扩散模型(FDM),它将扩散模型(DM)的扩散过程从随机优化角度进行改进,以加速训练和采样。实验证明,FDM可以应用于多种流行的DM框架,并在CIFAR-10、FFHQ和AFHQv2数据集上具有可比的图像合成性能。而且,FDM通过将采样步骤减少约3倍来实现相似的性能,从而将训练成本降低约50%。
Jun, 2023
通过对闭式评分函数进行平滑处理,我们提出了一种无须训练即可生成新样本的SGM模型,并提出了一种高效的基于最近邻的评分函数估计器,使得我们的方法在使用消费级CPU运行时具有与神经SGMs相竞争的采样速度。
Oct, 2023
我们以具有未知均值的高斯分布的抽样为动机示例,通过扩散生成模型提供了在强对数凹数据分布假设下的收敛性行为的全面理论保证。我们的评估函数类使用的逼近是利普希茨连续函数,同时通过与相应的抽样估计相结合,对于与数据分布之间的Wasserstein-2距离等关键量感兴趣的最佳上界估计提供了显式估计。该论文还引入了基于L2准确评分估计假设的结果,以适用于各种随机优化器。该方法在我们的抽样算法上得到了已知的最佳收敛速度。
Nov, 2023
对于扩散模型的准确性进行了理论研究,通过梯度下降方法对去噪积分评分匹配的训练和采样过程进行了非渐近收敛分析,并提供了方差爆炸模型的抽样误差分析。通过这两个结果的结合,明确了如何设计有效生成的训练和采样过程。
Jun, 2024