不平衡扩散薛定谔桥
通过将高斯噪声逐渐应用于复杂的数据分布,构建了一个确定性的生成模型,对应于具有时间不均匀漂移的倒退随机微分方程,用基于分数匹配的方法估计漂移。本文提出了 Diffusion SB 方法来处理 Schrödinger Bridge 问题,近似了迭代比例拟合过程,DSB 具有广泛的适用性,是流形上 Sinkhorn 算法的连续状态空间概率化推广。
Jun, 2021
本研究介绍了一种新颖的理论简化方法,将扩散薛定谔桥与基于评分的生成模型统一起来,解决了扩散薛定谔桥在复杂数据生成方面的局限性,实现了更快的收敛和更强的性能。通过将基于评分的生成模型作为扩散薛定谔桥的初始解决方案,我们的方法充分发挥了两个框架的优势,确保了更高效的训练过程并提高了基于评分的生成模型的性能。同时,我们还提出了一种重新参数化技术,尽管在理论上存在逼近,但在实践中可以提高网络的适应能力。我们进行了广泛的实验评估,证实了简化扩散薛定谔桥的有效性,并展示了其显著的改进。我们相信本研究的贡献为先进的生成建模铺平了道路。代码可在此 https URL 获取。
Mar, 2024
通过允许终端分布与 μ_T 不同,但惩罚两个分布之间的 Kullback-Leibler 散度,我们提出了一种软约束的 Schrödinger bridge(SSB)的最优控制方法,并且从理论上推导了其解决方案,表明最优控制过程的终端分布是 μ_T 和其他分布的几何混合,该结果进一步应用于时间序列设置,并提出了鲁棒性生成扩散模型的应用。我们提出了一种基于评分匹配的算法,用于从几何混合中进行采样,并通过对 MNIST 数据集的数值实例展示其用途。
Mar, 2024
该研究论文提出了一种通用的分布匹配算法,名为 Generalized Schrödinger Bridge Matching (GSBM),用于训练扩散模型,并通过解决条件随机最优控制问题,采用变分近似和路径积分理论进行优化,从而在处理特定任务时显著提高可扩展性和稳定性。
Oct, 2023
本研究提出了使用连续标准化流(CNFs)和动态最优输运方法对种群动态进行建模,以在固定时间点观测到的种群中推断采样轨迹的方法。通过使用正则化神经 SDE 对对流扩散过程进行建模并开发了一个模型架构,可以有效地近似种群级别的动态,即使在高维数据中也可以实现,并且使用拉格朗日方法引入的先验知识可以估计具有随机行为的采样级别动态。
Apr, 2022
本研究介绍了一种新的无配对数据图像翻译方法 ——Unpaired Neural Schrödinger Bridge (UNSB), 它结合了 Schrödinger Bridge 模型和对抗训练等方法来进行学习,有效解决了高分辨率图像翻译困难的问题。
May, 2023
本文介绍了基于去噪扩散模型的生成模型,提出了基于 Schrödinger bridge 的生成建模方法来缩短生成时间,并将其扩展到条件模拟中,用于各种应用,包括图像超分辨率、状态空间模型的最优滤波和预训练网络的优化。
Feb, 2022
引入反射谢尔宾格算法:一种在多样有界域中生成数据的熵正则化的最优传递方法,通过反演的前后向随机微分方程与诺依曼和罗宾边界条件相结合,扩展基于散度的封闭域似然训练,并探索与熵正则化最优传送的自然联系,用于近似线性收敛的研究 —— 这对实际训练是非常有价值的见解。该算法在多样有界域中产生强大的生成模型,并通过标准图像基准测试展示其可扩展性。
Jan, 2024
提出了一种新的采样迭代算法,用于解决 Schrödinger 桥问题,该算法展现了一种吸引人的性质,能够在每个步骤中实现目标度量之间的有效耦合关系,并且能够作为一种无近似方法用于实现生成模型,具有更大的灵活性、更快的训练速度和更好的样本质量。
Apr, 2023
本文提出了基于逼近投影的 Schrödinger bridge 算法的首个收敛性分析,成功地将其应用于概率时间序列插补中,以生成缺失值并达到了业内的最佳表现。通过优化传输成本,该算法探索了概率时间序列中的时间和特征模式。
May, 2023