扩展逆时间 SDE 扩散模型解空间的阐明
扩散基于生成模型使用随机微分方程和其等效的常微分方程在复杂数据分布与可追踪的先验分布之间建立平滑连接。本文中,我们发现扩散模型的基于常微分方程的采样过程中存在着一些有趣的轨迹特性。我们表征了一个隐式去噪轨迹,并讨论了其在形成具有强形状规律性的耦合采样轨迹中的重要作用,无论生成的内容是什么。我们还描述了一种基于动态规划的方案,使得采样的时间安排更好地适应底层轨迹结构。这种简单的策略对于任何给定的基于常微分方程的数值求解器只需要最小的修改,并且在计算成本几乎可忽略的情况下,能够在图像生成中提供卓越的性能,特别是在 5 到 10 个函数评估中。
May, 2024
本文提出了 SEEDS 方法,用于快速且精确地从 DPMs 中采样,在多个框架中改进和推广指数积分器方法,引入高阶项,使其比以前的 SDE 方法快 3-5 倍,在图像生成基准测试中验证了该方法的性能。
May, 2023
我们提出了一种统一的概率形式用于扩散式图像编辑,其中潜变量以任务特定的方式进行编辑,并且通常偏离原始随机微分方程或常微分方程(SDE 或 ODE)引起的相应边际分布。代之以定义了一个相应的 SDE 或 ODE 进行编辑。我们在公式中证明了两个 SDE 之间的边际分布的 Kullback-Leibler 散度逐渐减小,而 ODE 的散度在时间趋近于零时保持不变,这表明了 SDE 在图像编辑中的优势。受此启发,我们针对各种任务(包括修复和图像到图像转换)提供了常用 ODE 基准的 SDE 对应项,其中 SDE 显示出一致而显著的改进。此外,我们还提出了基于 SDE 公式的简单而有效的点内容拖曳方法 SDE-Drag。我们创建了一个具有自然图像、艺术图像和 AI 生成图像的挑战性基准(称为 DragBench)进行评估。对 DragBench 的用户研究表明,SDE-Drag 在很大程度上胜过了我们的 ODE 基准、现有的基于扩散的方法以及著名的 DragGAN。我们的结果证明了 SDE 在图像编辑中的优势和多功能性,并推动了基于扩散的编辑方法的发展边界。
Nov, 2023
我们引入了一种名为高斯混合求解器 (GMS) 的新型 SDE-based 求解器用于扩散模型,通过在采样过程中估计前三阶矩并使用广义矩估计法优化高斯混合转移核的参数,我们的求解器在图像生成和基于笔画的合成等各种扩散模型中在样本质量方面优于许多其他 SDE-based 求解器,验证了 GMS 的动机和效果。
Nov, 2023
利用基于评分的生成扩散模型,我们介绍了一种新颖的无监督反演方法,针对由偏微分方程引起的逆问题,通过解决一个逆向时间的随机微分方程来实现将后验分布作为条件生成过程的任务。此外,为了提高反演结果的准确性,我们提出了一种基于 ODE 的扩散后验采样反演算法。通过一系列涉及各种偏微分方程的实验证明了我们提出方法的效率和鲁棒性。
Apr, 2024
本研究提出了在相同采样过程的不同采样步骤中使用不同的采样器(ODE/SDE)的可行性,并通过实验证明这种多采样器调度在一定程度上改善了采样结果。特别是通过在早期采样步骤中使用 SDE 和在后期采样步骤中使用 ODE 的组合调度,解决了使用两个单一采样器所引发的固有问题,从而提高了采样效率和质量。
Nov, 2023
本文主要研究了扩散模型在计算机视觉中的应用,比较和分析了基于 ODE 和 SDE 的概率流和扩散模型在不同情况下的性能差异,研究表明,对于特定的脉冲形状误差,扩散系数越大,使用 SDE 模型生成样本的误差就会指数级下降,并且变化扩散系数可以提高样本质量。
Jun, 2023
本文提出了一种基于随机微分方程的得分模型生成方法,通过缓慢注入噪声将复杂数据分布平滑地转换为已知的先验分布,并通过缓慢地消除噪声将先验分布转换回数据分布,同时利用基于神经网络的得分生成建模技术可以精确估计这些得分,并使用数值微分方程求解器生成样本。
Nov, 2020