通过期望最大化从观测中学习扩散先验
最新的扩散模型为嘈杂的线性反问题提供了一种无需为特定反问题重新训练的有希望的零样本解决方案。本文首次从条件抽样的逆扩散过程的条件后验均值的近似角度解释了现有的零照片方法。我们揭示了最新方法相当于对给定扩散嘈杂图像的干净图像的不可行后验分布进行各向同性高斯近似,唯一的不同在于各向同性后验协方差的手工设计。受此发现的启发,我们提出了一种基于最大似然估计的通用即插即用后验协方差优化方法,以改善最新方法。为了实现无需重新训练的最优后验协方差,我们提供了基于两种方法的通用解决方案,这两种方法专门设计用于利用具有和不具有逆协方差的预训练模型。实验结果表明,所提出的方法显著提高了最新方法的整体性能或对超参数的鲁棒性。可在此链接获取代码。
Feb, 2024
利用去噪扩散模型(DDM)作为先验来解决逆贝叶斯问题的兴趣最近显著增加。本研究采用不同方法,利用DDM先验的特定结构定义了一组中间和简化的后验采样问题,相比以前的方法,降低了近似误差。我们通过使用合成示例和各种图像恢复任务来经验性地展示了我们方法的重建能力。
Mar, 2024
评分扩散模型(SDM)提供了一种灵活的方法,用于在各种贝叶斯反问题中从后验分布中采样。本文针对线性反问题,证明了完全绕过前向映射评估,在后验样本生成中将计算任务转移到训练特定扩散式随机过程分数的离线任务上的可行性。情况下的得分,通过适当的仿射变换,可以从辅助得分得到。通过数值分析和实验验证了这一观察的普遍性。
May, 2024
在这项研究中,我们介绍了一种能够在函数空间中解决贝叶斯逆问题的抽样方法,它不需要似然函数的对数凹性,可以用于非线性逆问题。该方法利用了最近定义的无限维度基于得分的扩散模型作为基于学习的先验,并通过在函数空间上定义的Langevin类型的MCMC算法实现可证明的后验采样。我们进行了一项新颖的收敛性分析,受传统正则化-去噪算法中建立的不动点方法的启发,并与加权模拟退火兼容。所得到的收敛界明确依赖于得分的逼近误差;良好逼近的得分对于获得良好逼近的后验至关重要。我们提供了基于样式和基于PDE的示例,证明了我们的收敛性分析的有效性。最后,我们讨论了学习得分和计算复杂性方面的挑战。
May, 2024
扩散模型在图像重建中表现出优异的性能,提出了一种基于贝叶斯条件技术的扩散模型,通过条件得分函数来解决图像重建中出现的挑战性逆问题,并在图像去混叠、去模糊、超分辨率和修复中展现出最新技术的性能。
Jun, 2024
本文提出一种基于期望最大化 (EM) 方法的EMDiffusion训练扩散模型的方法以从损坏的观测中恢复图像,通过该方法,我们在各种计算成像任务上进行了广泛实验,包括随机修补、降噪和去模糊,达到了新的最先进性能。
Jul, 2024
本研究解决了现有扩散模型在图像恢复中的近似似然函数不足和计算效率低的问题。我们提出了一种统一的似然近似方法,通过引入协方差修正项来提高性能,并有效避免了在扩散模型中传播梯度。研究发现,该方法在真实自然图像数据集上的表现优于现有方案,显著改善了向真实数据后验的收敛性。
Sep, 2024
本研究针对现有扩散模型在高噪声水平下逆问题求解中的表现不足,提出了一种创新的方法——扩散后验MCMC(DPMC),旨在通过退火MCMC算法提高求解精度。实验表明,该方法在多个逆问题上,如超分辨率和运动去模糊,表现优于传统的扩散后验抽样(DPS),且评估次数更少,显示出了更优的效率。
Sep, 2024
本研究解决了扩散模型在逆问题应用中的信息不足,提供了无监督先验的有效性综述。通过对现有方法的分类和比较,揭示了不同技术之间的联系,并讨论了使用潜在扩散模型面临的挑战与解决方案。这项工作为扩散模型与逆问题的结合提供了宝贵的参考资源。
Sep, 2024
本研究解决了在获取清晰数据成本高或不切实际的情况下,扩散模型训练的局限性。提出了一种基于原则期望最大化的框架,通过迭代学习来自任意类型噪声数据的扩散模型,显著提升了图像重建质量。实验结果显示,该方法在图像逆问题中,实现了高保真度扩散先验的有效学习。
Oct, 2024