潜在扩散先验增强的深度展开在光谱影像重建中的应用
通过使用潜在扩散先验,我们提出了一种创新的技术 LatentDEM,用于解决更具挑战性的盲逆问题。该方法核心是在迭代的期望最大化(EM)框架中解决盲逆问题:(1)E 步使用潜在扩散先验和已知的前向模型从损坏的观测中恢复清晰图像,(2)M 步基于恢复的图像估计前向算子。此外,我们提出了两种针对潜在扩散先验和 EM 框架定制的新型优化技术,从而实现更准确高效的盲逆转结果。作为一个通用框架,LatentDEM 支持线性和非线性逆问题。除了常见的 2D 图像恢复任务,它还能在非线性 3D 逆渲染问题中提供新的功能。我们通过在代表性的 2D 盲去模糊和 3D 稀疏视图重建任务上验证了 LatentDEM 的性能,证明其相比之前的方法具有更高的功效。
Jul, 2024
通过在预训练的自编码器的潜在空间中应用扩散模型,引入交叉注意力层到模型体系结构中,以更少的计算要求取得接近最优的性能,实现高分辨率合成,缩小像素级 DMs 对计算资源的需求。
Dec, 2021
通过将训练于大规模开放领域数据集的扩散模型变为生成先验,提出了一种新颖的基于扩散模型的低光图像增强方法,称为 LDM-SID,该方法通过向扩散模型中插入一组所提出的驯服模块来引导其生成过程,并在观察到扩散模型不同部分的特定生成先验后,将低频内容生成和高频细节维护二分,从而实现对扩散模型的优化结构生成和细节增强。广泛实验证明该方法在定量评估中实现了最先进的性能,并在视觉比较中显示出显著的优越性,从而强调了利用预训练的扩散模型作为 LLIE 任务的生成先验的有效性。
Dec, 2023
通过利用潜在扩散模型的失真先验信息,提出了一种基于深度学习的遥感图像压缩方法,该方法利用生成的先验信息,通过增强网络实现对图像的质量提升。
Jun, 2024
通过结合迭代重建和无监督潜在扩散模型,Latent Diffusion Iterative Reconstruction (LDIR) 方法能够以高效的方式重建高分辨率图像,超过其他无监督方法并接近有监督方法的性能,同时具有更快的执行时间和更低的内存消耗。
Jul, 2023
本文介绍了一种更快的图像重建框架 LMD,通过潜在遮蔽扩散方法,将高分辨率图像投影和重建在潜在空间中,设计了渐进遮蔽扩散模型,通过三种不同的调度器逐渐提高遮蔽比例,以从简单到困难地重建潜在特征,从而加快模型训练速度,同时保持了原始准确性,并在下游任务中显著提高推理速度。
Dec, 2023
本文使用受非平衡热力学考虑的潜变量模型 —— 扩散概率模型,提出了高质量的图像合成结果。通过根据扩散概率模型和 Langevin 动力学的去噪得分匹配之间的新颖联系设计加权变分界限进行训练,获得了最佳结果;此外,我们的模型自然地采用渐进式有损解压缩方案,可以解释为自回归解码的一般化。在无条件的 CIFAR10 数据集上,我们获得了 9.46 的 Inception 得分和 3.17 的最先进的 FID 得分。在 256x256 LSUN 上,我们获得了与 ProgressiveGAN 相似的样本质量。
Jun, 2020
LLDM 在自然图像上的预训练模型所含的隐性视觉知识可能适用于自然图像和医学图像。通过 U$^2$MRPD 框架,我们验证了这一假设,该框架通过 MRSampler 和 MRAdapter 使 LLDM 适用于复杂数值 MRI 图像的无监督欠采样重建,实现了比监督方法和 MRI 扩散方法更好的性能,并且具有最佳的泛化能力。
Feb, 2024
本研究旨在提高扩散模型在逼真图像修复中的适用性,特别是在网络架构、噪声水平、降噪步骤、训练图像大小和优化器 / 调度器等多个方面进行改进。我们展示了调节这些超参数可以在失真和感知得分上实现更好的性能,并提出了基于 U-Net 的潜在扩散模型。与以前的潜在扩散模型相比,我们提出的 U-Net 压缩策略更稳定,而且不依赖敌对性优化就能恢复高度准确的图像。我们的模型 Refusion 能够处理大尺寸图像,包括真实世界的阴影去除、HR 不均匀去雾、立体超分辨率和景深效果转换,并在 NTIRE 2023 图像阴影去除挑战赛中获得最佳感知性能和第二名。
Apr, 2023