一种适用于采样的实用扩散路径
我们提出了一个结合扩散映射和兰格朗日动力学的生成模型,通过扩散映射近似训练样本的漂移项,并在离散时间的兰格朗日采样器中实现,以生成新样本。通过设置核带宽与未调整的兰格朗日算法中使用的时间步长相匹配,我们的方法有效地解决了通常与时间步长严重随机微分方程相关的稳定性问题。我们的框架可自然地扩展到生成条件样本。通过对合成数据集和随机子网格尺度参数化条件采样问题进行实验,我们验证了我们提出的方案的性能。
Jan, 2024
利用费曼路径积分的新方法来描述分数评分的扩散模型,推导了反向随机微分方程和损失函数,通过应用量子物理中的 Wentzel-Kramers-Brillouin (WKB) 展开技术来评估随机和确定性采样方案之间的性能差异。
Mar, 2024
本文介绍了一种新的生成模型,利用评分匹配来估计数据分布的梯度,通过 Langevin 动力学生成样本。我们的框架使得模型架构更加灵活,无需在训练期间进行抽样或使用对抗性方法,提供了可用于基于原则的模型比较的学习目标。在 MNIST、CelebA 和 CIFAR-10 数据集上,我们的模型产生的样本与 GAN 相当,实现了 CIFAR-10 inception 得分的新的最先进水平为 8.87。此外,我们通过图像修补实验证明了我们的模型学习到了有效的表示。
Jul, 2019
该论文提出了基于深度学习的方法来对非归一化目标密度进行建模,并使用特定问题的 Schrödinger 桥问题来确定在给定先验分布和指定目标之间的最有可能的随机演变,其中包括前面出现的目标作为特殊情况。
Jul, 2023
本文通过导出一个变分框架来推导连续时间生成扩散理论,并表明该理论中最小化匹配得分损失等价于最大化该理论内所提出的可逆 SDE 插件的似然度的下限。
Jun, 2021
通过引入一种新的,临界阻尼 Langevin 扩散,该文提出一种基于分数的生成模型框架,它可以更轻松地学习条件分布的速度得分函数,这比直接学习数据分数函数要容易得多,并用于高分辨率图像合成任务。
Dec, 2021
在这项研究中,我们介绍了一种能够在函数空间中解决贝叶斯逆问题的抽样方法,它不需要似然函数的对数凹性,可以用于非线性逆问题。该方法利用了最近定义的无限维度基于得分的扩散模型作为基于学习的先验,并通过在函数空间上定义的 Langevin 类型的 MCMC 算法实现可证明的后验采样。我们进行了一项新颖的收敛性分析,受传统正则化 - 去噪算法中建立的不动点方法的启发,并与加权模拟退火兼容。所得到的收敛界明确依赖于得分的逼近误差;良好逼近的得分对于获得良好逼近的后验至关重要。我们提供了基于样式和基于 PDE 的示例,证明了我们的收敛性分析的有效性。最后,我们讨论了学习得分和计算复杂性方面的挑战。
May, 2024
该研究提出了一种使用分数梯度模型重构图像的方法,并使用连续时间依赖分数函数进行训练。该模型可用于解决成像的反问题,尤其是加速 MRI,具有强大的性能及实用性,并且可重构复杂值数据。
Oct, 2021