通过在模型训练过程中加入约束条件使其生成的样本更符合所施加的约束,从而提高生成样本与约束的一致性,且相较于现有方法有更好的性能且不影响推断速度;该方法还可以自然地防止过拟合。
Mar, 2024
本综述为关于应用于计算机视觉的去噪扩散模型文章提供了全面的回顾,包括在领域中的理论和实际贡献,提供了三种通用扩散建模框架,并介绍了扩散模型与其他深度生成模型之间的关系,并引入了在计算机视觉中应用扩散模型的多个视角分类,最后,我们说明了离散模型的当前限制并预见了未来研究的一些有趣方向。
Sep, 2022
利用新颖的评分匹配损失,我们提出了一种基于粒子迭代方案的粒子去噪扩散取样器(PDDS),它能够在温和假设下提供渐近一致的估计,我们在多模态和高维取样任务上演示了 PDDS。
Feb, 2024
本文提出了一种基于 Gamma 噪声的去噪扩散 Gamma 模型(DDGM),并通过图像和语音生成任务验证了其性能优于传统的基于高斯噪声的扩散模型。
Oct, 2021
本研究提出两种方法来扩展扩散模型至通过不等式约束定义的流形,包括基于对数障碍度量的失真度量以及基于反射布朗运动的失真度量,在合成和真实任务中进行了实证表明,包括蛋白质骨架和机器人臂运动的约束构象模拟。
Apr, 2023
本文提出了一种基于多模式条件 GAN,使其具有高样本质量、高模式覆盖和快速采样三个特性的去噪扩散生成对抗网络,同时在 CIFAR-10 数据集上比原扩散模型快 2000 倍,并且是第一种将采样成本降至足够低以便于应用于实际应用的模型。
Dec, 2021
扩散模型在图像合成等任务中表现出色,但是我们发现当前的扩散模型在反向去噪和现有理论保证过程中存在表达瓶颈和过强的假设,导致局部去噪和全局逼近存在无界误差。基于我们的理论研究,我们提出了一种简单高效的反向去噪模型 —— 软混合去噪(SMD),它不仅在理论上允许扩散模型良好逼近任意高斯混合分布,而且在实现上具备简单高效的特点。我们在多个图像数据集上的实验证明,SMD 显著改进了各种类型的扩散模型(例如 DDPM),特别是在少量反向迭代的情况下。
Sep, 2023
在这篇文章中,我们发现了扩散模型生成质量受到迭代次数限制的根本原因,并提出了一个简单而有效的解决方案来缓解这些影响。我们的解决方案可以应用于任何现有的扩散模型,并且在各种 SOTA 体系结构上运行多个数据集和配置进行实验和详尽的消融研究,证明能够立即提高它们的生成质量。
Mar, 2022
本文介绍了一种基于扩散模型的新型通用去噪扩散模型,采用线性插值进行扩散,中间的噪声图像从原始的清晰图像和相应的真实噪声图像进行插值,使得该扩散模型可以处理添加噪声的级别,并且提出了两种采样算法,实验证明该模型在真实去噪基准测试中表现良好。
May, 2023
该论文通过扩散过程进行生成模型,通过选择适当的扩散桥混合,构造了以所需数据分布为目标的扩散过程,并且通过新的训练目标,可以通过神经网络进行逼近。
Dec, 2023