May, 2023

基于 GSURE 的受损数据扩散模型训练

PDF
TL;DR该研究提出了一种新的训练技术，基于受损数据训练扩散模型并引入 GSURE 损失函数。研究表明，在一定条件下，GSURE 损失函数相当于完全监督扩散模型中使用的训练目标，并可实现与完全监督模型相当的生成性能。
diffusion modelsgenerative modelscorrupted datageneralized stein's unbiased risk estimatordownstream tasks
发现论文，激发创造
  • Stein 无偏风险估计的无监督学习

    通过使用 Stein's Unbiased Risk Estimator（SURE）的概念，无需真实样本数据，仅使用来自相同噪声分布的其他图片的测量结果，就可实现图像恢复和降噪的任务，并在 Deep Image Prior 等领域取得了部分进展。

    May, 2018

  • 环境扩散：从损坏的数据中学习干净的分布

    介绍了一种基于扩散的框架，可以使用高度损坏的样本学习未知分布，通过在扩散过程中引入附加的测量损坏，并要求模型从进一步损坏的图像中预测原始损坏的图像，来学习完整未损坏图像的条件期望。

    May, 2023

  • 利用从噪声数据中学习到的基于分数的生成先验解决反问题

    本文介绍了 SURE-Score， 一种使用受加性高斯噪声污染的训练样本学习基于分数的生成模型的方法，演示了 SURE-Score 在学习先验知识和应用后验采样到压缩无线 MIMO 信道估计和加速 2D 多线圈磁共振成像重建等领域中的可广泛应用性。

    May, 2023

  • SMRD：基于 SURE 的扩散模型 MRI 坚固重建

    SURE-based MRI Reconstruction with Diffusion models (SMRD) enhances robustness during testing of diffusion models by performing test-time hyperparameter tuning using Stein's Unbiased Risk Estimator (SURE), achieving improved results on various measurement noise levels, acceleration factors, and anatomies.

    Oct, 2023

  • 基于扩散的语音增强与带权的生成 - 监督学习损失

    通过引入均方误差损失（MSE）来改善扩散训练目标，度量在逆向过程迭代中预测的增强语音与真实干净语音之间的差异，提出了一种增强语音的方法，实验证明其有效性。

    Sep, 2023

  • 训练基于深度学习的去噪器，无需基准数据

    本文提出一种基于 Stein's unbiased risk estimator（SURE）的方法，从含有高斯噪声的图像数据中训练深度学习去噪网络，在没有无噪声图像的情况下使用 SURE 方法，使得网络的性能接近于使用有噪声图像的有监督学习方法，同时使用 SURE 方法进行快速后处理可以进一步提高性能。

    Mar, 2018

  • 指数族通用 SURE: 应用于正则化

    该论文提出了针对广泛问题的 Stein 无偏风险估计方法，扩展了 SURE 设计技术，并建议了一种基于正则化 SURE 目标的小波去噪策略，可以改善均方误差性能。

    Apr, 2008

  • 磁共振成像重建中无监督去噪扩散模型的不稳定性

    通过研究发现，即使微小的最坏情况扰动由替代模型传递而来，去噪扩散模型仍然能够生成可能误导临床医生的假组织结构，这种扰动的可转移性表明由于磁共振系统的不完善或其他噪声源，图像重构的鲁棒性可能会受到损害。此外，在更大的扰动强度下，扩散模型会产生与监督模型中观察到的不同且更具挑战性的类似高斯噪声的伪影，这强调了当前最先进的基于扩散的重构模型对可能的最坏情况扰动的脆弱性，并强调了在临床环境中改善其鲁棒性和可靠性的进一步研究的必要性。

    Jun, 2024

  • 一致扩散遇到 Tweedie：用有噪数据训练准确的环境扩散模型

    我们提出了第一个从嘈杂的训练数据中获得未污染分布样本的扩散模型训练框架，使用了 Tweedie 公式的双重应用和一致性损失函数。我们还通过识别几乎完美重建的极度受损图像来提供扩散模型记忆训练集的进一步证据，引发了版权和隐私问题。我们的训练方法可用于缓解这个问题，并展示了通过对 Stable Diffusion XL 进行微调，使用仅嘈杂样本生成分布样本的能力。我们的框架减少了微调数据集的记忆量，同时保持有竞争力的性能。

    Mar, 2024

  • SURE：构建可靠和鲁棒的深度网络的调查方法

    通过综合运用各种技术，包括模型正则化、分类器和优化等，本研究改进了深度神经网络的不确定性估计技术，提高了其对图像分类任务的准确性，并通过与其他模型的对比实验证明了其在现实世界挑战中的稳健性。

    Mar, 2024