扩散桥混合传输，薛定谔桥问题和生成建模

Apr, 2023

扩散桥混合传输，薛定谔桥问题和生成建模

Diffusion Bridge Mixture Transports, Schrödinger Bridge Problems and Generative Modeling

Stefano Peluchetti

TL;DR提出了一种新的采样迭代算法，用于解决 Schrödinger 桥问题，该算法展现了一种吸引人的性质，能够在每个步骤中实现目标度量之间的有效耦合关系，并且能够作为一种无近似方法用于实现生成模型，具有更大的灵活性、更快的训练速度和更好的样本质量。

Abstract

The dynamic Schr\"odinger bridge problem seeks a stochastic process that defines a transport between two target probability measures, while optimally satisfying the criteria of being closest, in terms of Kullback-Leibler divergence, to a reference process. We propose a novel sampling-based iterative algorithm, the iterated diffusion bridge mixture transport

schrödinger bridge problem kullback-leibler divergence iterated diffusion bridge mixture transport generative modeling approximation-free method

发现论文，激发创造

应用于基于得分的生成建模的扩散薛定谔桥

通过将高斯噪声逐渐应用于复杂的数据分布，构建了一个确定性的生成模型，对应于具有时间不均匀漂移的倒退随机微分方程，用基于分数匹配的方法估计漂移。本文提出了 Diffusion SB 方法来处理 Schrödinger Bridge 问题，近似了迭代比例拟合过程，DSB 具有广泛的适用性，是流形上 Sinkhorn 算法的连续状态空间概率化推广。

Jun, 2021

用于受限生成建模的反映式薛定谔桥

引入反射谢尔宾格算法：一种在多样有界域中生成数据的熵正则化的最优传递方法，通过反演的前后向随机微分方程与诺依曼和罗宾边界条件相结合，扩展基于散度的封闭域似然训练，并探索与熵正则化最优传送的自然联系，用于近似线性收敛的研究 —— 这对实际训练是非常有价值的见解。该算法在多样有界域中产生强大的生成模型，并通过标准图像基准测试展示其可扩展性。

Jan, 2024

对抗性 Schrödinger 桥匹配

我们提出了一种新颖的离散时间 IMF (D-IMF) 程序，用于通过学习在离散时间中的少量转移概率来解决 Schrödinger Bridge 问题，相较于数百步的迭代，只需要几个生成步骤即可实现与传统 IMF 相同质量的无配对领域转换。

May, 2024

降噪扩散桥模型

通过扩展扩散模型，使用扩散桥模型作为一种自然替代方法，该模型通过从数据中学习扩散桥分数并解决基于这些分数的（随机）微分方程，将一种分布映射到另一种分布，从而实现图像编辑等应用中纳入非随机噪声信息的目标。

Sep, 2023

变分薛定谔扩散模型

提出了变分薛定谔扩散模型 (VSDM)，利用变分推理线性化薛定谔桥前向评分函数，实现了无需模拟的训练过程，可用于优化传输计划中的扩散模型。VSDM 在模拟实验中表现出对非各向异性形状的高效生成能力，并产生了相较于单变量扩散更直线的样本轨迹。在真实数据中，验证了算法的可伸缩性，并在 CIFAR10 的无条件生成和时间序列建模的条件生成中达到了竞争性表现。值得注意的是，VSDM 不再依赖热启动初始化，而且在训练大规模实验中更易调参。

May, 2024

时空桥扩散

该研究介绍了一种新的方法，用于从高维实值概率分布中生成独立同分布的新合成样本，该分布由一组地面真实样本隐含定义。该方法的核心是通过跨时空维度的空间 - 时间混合策略来整合，以实现从易于处理的初始概率分布到由地面真实样本表示的目标分布的最佳传输。通过数值实验验证了该空间 - 时间扩散方法的有效性，并为更广泛的未来理论和实验奠定了基础，以完全验证该方法，特别是提供更高效（可能是无需模拟的）推断。

Feb, 2024

使用扩散薛定谔桥的条件模拟

本文介绍了基于去噪扩散模型的生成模型，提出了基于 Schrödinger bridge 的生成建模方法来缩短生成时间，并将其扩展到条件模拟中，用于各种应用，包括图像超分辨率、状态空间模型的最优滤波和预训练网络的优化。

Feb, 2022

软约束薛定谔桥：一种随机控制方法

通过允许终端分布与 μ_T 不同，但惩罚两个分布之间的 Kullback-Leibler 散度，我们提出了一种软约束的 Schrödinger bridge（SSB）的最优控制方法，并且从理论上推导了其解决方案，表明最优控制过程的终端分布是 μ_T 和其他分布的几何混合，该结果进一步应用于时间序列设置，并提出了鲁棒性生成扩散模型的应用。我们提出了一种基于评分匹配的算法，用于从几何混合中进行采样，并通过对 MNIST 数据集的数值实例展示其用途。

Mar, 2024

用于生成学习的潜在 Schr {ö} dinger 桥扩散模型

通过在潜空间中利用 Schr {"o} dinger bridge 扩散模型构建新的生成学习方法，本文对当前扩散模型进行了全面的理论分析，包括利用预训练的编码器 - 解码器架构和 Schr {"o} dinger bridge 框架开发了潜空间中的扩散模型，通过控制生成分布和目标分布之间的二阶 Wasserstein 距离，获得了收敛速率，从而为现有的扩散模型提供了稳健的理论支持。

Apr, 2024

模拟无限维非线性扩散桥

通过将得分匹配技术与运算学习相结合，我们提出了解决无限维桥问题的方案，使得无限维桥的得分匹配可以以直接的方式进行。我们的方法在一系列实验中展现了高效性，尤其因其能够适应任何分辨率而无需额外的训练。

May, 2024