Gradpaint: 基于梯度引导的扩散模型修复
本文提出了一种基于 DDPM 的模型,能够通过使用生成对抗网络(GAN)的生成器来建模反向扩散过程,从而以较低的采样成本填充丢失的像素,实验结果表明我们的方法在通用图像修复数据集上表现出卓越性能。
Aug, 2023
本文提出了 RePaint,一种基于 DDPM 的修复方法,针对自由形式的抠图效果更佳,能够进行信息补充,并对面部和通用图像修复进行了测试。
Jan, 2022
使用最新的成像和高性能计算技术实现了在细胞水平对整个人脑进行成像,为研究人脑的多尺度结构(包括大脑区域和核团的划分、皮层层次、纵列和细胞群体)提供了基础。本研究提出了一种基于噪声扩散概率模型(DDPM)的模型,通过训练细胞染色切片的光镜扫描图像,能够可靠地填充缺失信息并生成高度逼真的图像信息,用于细胞统计和形态模式的分析,得到了验证。
Nov, 2023
提出了一种名为 Uni-paint 的多模态修复统一框架,基于 Stable Diffusion 预训练模型,支持无条件、文本驱动、笔画驱动、示例驱动等多种修复模态,无需特定数据集的任务特定训练,通过广泛的定性和定量评估表明,该方法在保持与现有单模态方法具有可比性的基础上,提供了其他方法中不可用的多模态修复能力。
Oct, 2023
本文研究了扰动扩散概率模型在语义分割任务中的应用,特别是在标注数据有限的情况下。通过探究预训练扩散模型的中间层,我们发现它们可以有效地捕捉输入图像的语义信息,并成为像素级别的分割表示。基于这些观察,我们提出了一种简单的分割方法,能在仅有少量训练图像的情况下显著提高性能。
Dec, 2021
调查论文对使用扩散模型进行图像编辑的现有方法进行了全面的概述,包括理论和实践方面,并从多个角度对这些作品进行了彻底分析和分类,介绍了学习策略、用户输入条件以及可以实现的特定编辑任务的组合。此外,对图像修复和扩展进行了特别关注,并探讨了早期的传统上下文驱动方法和当前的多模态条件方法,全面分析了它们的方法论。最后,讨论当前的限制并展望未来的研究方向。
Feb, 2024
本文提出了一种基于扩散的图像修复算法,并针对多数图像修复算法需要反复训练的问题,证明了基于扩散的图像修复算法可以很好地处理未知蒙版,从而避免反复训练。通过分析目前流行的扩散图像修复算法 RePaint 及其存在的偏差问题,本文提出了一种新的修复算法 RePaint+,具有良好的收敛率,并校正了 RePaint 中存在的偏差问题,提升了采样恢复效果,是一种具有线性收敛结果的扩散图像修复算法。
Feb, 2023
本文提出了一种新的框架,利用可计算条件概率的 Tractable Probabilistic Models(TPMs)来指导扩散模型的去噪过程,从而改进了受限图像生成的质量和语义连贯性。同时,该方法能接受图像特定区域的语义约束,并推动更可控的图像生成任务的发展。
Nov, 2023
本研究工作中,我们研究了基于草图引导的图像修复任务。与在捕捉语义细节方面表现出色的经过深入研究的自然语言引导图像修复不同,相对较少研究的草图引导修复提供了更强的用户控制力,可指定待修复对象的形状和姿势。作为这个任务的早期解决方案之一,我们引入了一种新颖的部分离散扩散过程(PDDP)。PDDP 的正向传递在图像的掩蔽区域损坏,而反向传递使用我们提出的草图引导双向转换器以依赖于手绘草图来重建这些掩蔽区域。所提出的新颖转换器模块接受两个输入 —— 包含待修复区域的图像和用于建模逆扩散过程的查询草图。这一策略有效地解决了草图与自然图像之间的领域差异,从而提高了修复结果的质量。在缺乏针对此任务的大规模数据集的情况下,我们从 MS-COCO 合成了一个数据集,用于对我们提出的框架进行训练和广泛评估,与文献中的各种竞争方法进行对比。定性和定量结果以及用户研究表明,所提出的方法可以修复与提供的草图的视觉外观相符的逼真对象。为了促进进一步的研究,我们已将我们的代码公开提供在此 https URL 。
Apr, 2024
本文介绍一种基于贝叶斯法的 COPAINT 算法,其使用扩散模型来修复图像并通过逐步减小误差的方式来减少与参考图像的偏差,从而优于现有的扩散模型方法。
Apr, 2023