通过计算后验分布的高阶中心矩与后验均值的高阶导数之间的基本关系,提出了一种用于预训练的降噪器的不确定性估计方法,可有效计算图像区域的主成分以及在任意一维方向上的近似全边际分布。该方法快速、内存效率高,并且无需训练或微调降噪器。
Sep, 2023
该研究论文介绍了如何通过高阶噪声抑制分数匹配方法实现得分网络的最大似然训练,以提高得分模型的生成质量和对于数据概率分布的似然评估。
Jun, 2022
通过分析神经网络的数学框架和得分匹配与回归分析之间的创新连接,本文提出了第一次得分函数学习的一般化误差(样本复杂性)边界,从而克服了观测值中存在噪声的问题。
Jan, 2024
本文介绍了一种新的生成模型,利用评分匹配来估计数据分布的梯度,通过 Langevin 动力学生成样本。我们的框架使得模型架构更加灵活,无需在训练期间进行抽样或使用对抗性方法,提供了可用于基于原则的模型比较的学习目标。在 MNIST、CelebA 和 CIFAR-10 数据集上,我们的模型产生的样本与 GAN 相当,实现了 CIFAR-10 inception 得分的新的最先进水平为 8.87。此外,我们通过图像修补实验证明了我们的模型学习到了有效的表示。
Jul, 2019
本文提出了一种更通用的解决方案,利用分数函数的性质,通过求解系统去除单张图像噪音,可应用于多种复杂噪音模型。实验结果表明,与其他方法相比,我们的方法在复杂的噪声模型下表现良好。
Apr, 2023
本文通过导出一个变分框架来推导连续时间生成扩散理论,并表明该理论中最小化匹配得分损失等价于最大化该理论内所提出的可逆 SDE 插件的似然度的下限。
Jun, 2021
通过使用有限差分法(FD)对一些机器学习应用中的高阶导数进行近似计算,例如生成模型中的 SM(Score Matching),可以大大降低计算成本,并提高数值稳定性。
Jul, 2020
该论文介绍了利用目标分数的知识来改进 Denosing Score Matching 算法,在低噪声水平下取得更好的评估分数的效果。
Feb, 2024
该研究提出了一种使用分数梯度模型重构图像的方法,并使用连续时间依赖分数函数进行训练。该模型可用于解决成像的反问题,尤其是加速 MRI,具有强大的性能及实用性,并且可重构复杂值数据。
Oct, 2021
本文探讨了基于鲍姆 - 韦尔奇定理的 Stein 方法和 Score Matching 方法的核估计者,提出了一种基于正则化非参数回归框架的统一视角,允许我们分析现有的估计器并选择不同的假设空间和正则化器构建新的估计器。最后,我们提出了基于迭代正则化的分数估计器,它们受到无旋核和快速收敛的计算优势的支持。
May, 2020