目标分数匹配
通过分析神经网络的数学框架和得分匹配与回归分析之间的创新连接,本文提出了第一次得分函数学习的一般化误差(样本复杂性)边界,从而克服了观测值中存在噪声的问题。
Jan, 2024
通过 Denoising Likelihood Score Matching(DLSM)损失函数的训练,我们可以解决已有条件分数数据生成方法中分类器训练目标会导致分数不匹配的问题,从而更准确地建模条件分数并缓解这个问题。在 Cifar-10 和 Cifar-100 基准测试中,实验结果表明提议的方法在多个关键评估指标上优于以前的方法。
Mar, 2022
本文提出了一种更通用的解决方案,利用分数函数的性质,通过求解系统去除单张图像噪音,可应用于多种复杂噪音模型。实验结果表明,与其他方法相比,我们的方法在复杂的噪声模型下表现良好。
Apr, 2023
本研究提出了一种基于贝叶斯框架的深度神经网络反问题求解方法,使用噪声分数匹配技术学习先验分布,并结合模拟退火算法对图像反问题进行全面采样,应用于磁共振成像重建,提供了高质量的图像重建以及重建图像中特定特征的不确定性评估。
Nov, 2020
我们提出了一个具有一步采样的基于分数的模型,通过训练一个独立的生成器,用从分数网络反向传播的梯度来压缩所有时间步骤,以产生对于生成器有意义的梯度,并使分数网络同时匹配真实数据分布和伪造数据分布,该模型具有采样快速、训练简单且免除了由一致性损失引起的不适定问题的优势,通过在 CIFAR-10 数据集上进行实验证明了该框架的潜力,并在 MINIST 和 LSUN 数据集上提供了更多示例。
Sep, 2023
本文通过导出一个变分框架来推导连续时间生成扩散理论,并表明该理论中最小化匹配得分损失等价于最大化该理论内所提出的可逆 SDE 插件的似然度的下限。
Jun, 2021
提出了一种新颖的训练基于分数的生成模型的方法,通过非线性加噪动力学改进结构化分布的学习,从而使其更好地适应数据,在数据预处理步骤中获取结构并引入了两种方法解决非线性动力学训练带来的挑战,展示了该方法在几个示例上的有效性。
May, 2024
本文介绍了 SURE-Score, 一种使用受加性高斯噪声污染的训练样本学习基于分数的生成模型的方法,演示了 SURE-Score 在学习先验知识和应用后验采样到压缩无线 MIMO 信道估计和加速 2D 多线圈磁共振成像重建等领域中的可广泛应用性。
May, 2023
提出基于一致性约束的得分匹配方法,实验结果表明得到了 CIFAR-10 中条件和无条件生成的最新成果和 AFHQ 以及 FFHQ 的基准改进。
Feb, 2023