简化扩散薛定谔桥

Mar, 2024

Simplified Diffusion Schrödinger Bridge

Zhicong Tang, Tiankai Hang, Shuyang Gu, Dong Chen, Baining Guo

TL;DR本研究介绍了一种新颖的理论简化方法，将扩散薛定谔桥与基于评分的生成模型统一起来，解决了扩散薛定谔桥在复杂数据生成方面的局限性，实现了更快的收敛和更强的性能。通过将基于评分的生成模型作为扩散薛定谔桥的初始解决方案，我们的方法充分发挥了两个框架的优势，确保了更高效的训练过程并提高了基于评分的生成模型的性能。同时，我们还提出了一种重新参数化技术，尽管在理论上存在逼近，但在实践中可以提高网络的适应能力。我们进行了广泛的实验评估，证实了简化扩散薛定谔桥的有效性，并展示了其显著的改进。我们相信本研究的贡献为先进的生成建模铺平了道路。代码可在此 https URL 获取。

Abstract

This paper introduces a novel theoretical simplification of the Diffusion Schr\"odinger Bridge (DSB) that facilitates its unification with Score-based Generative Models (SGMs), addressing the limitations of DSB in complex data generation and enabling faster convergence and enhanced per

diffusion schrödinger bridge score-based generative models complex data generation faster convergence reparameterization technique

发现论文，激发创造

应用于基于得分的生成建模的扩散薛定谔桥

通过将高斯噪声逐渐应用于复杂的数据分布，构建了一个确定性的生成模型，对应于具有时间不均匀漂移的倒退随机微分方程，用基于分数匹配的方法估计漂移。本文提出了 Diffusion SB 方法来处理 Schrödinger Bridge 问题，近似了迭代比例拟合过程，DSB 具有广泛的适用性，是流形上 Sinkhorn 算法的连续状态空间概率化推广。

Jun, 2021

不平衡扩散薛定谔桥

该研究提出一种新的神经参数化方法：非平衡扩散 Schrödinger Bridge（DSBs）。该方法可以模拟当端点是概率分布，且质量未被守恒时，人口的时间演化，并可应用于分析癌症药物的单细胞响应和病毒变异的传播过程。

Jun, 2023

使用扩散薛定谔桥的条件模拟

本文介绍了基于去噪扩散模型的生成模型，提出了基于 Schrödinger bridge 的生成建模方法来缩短生成时间，并将其扩展到条件模拟中，用于各种应用，包括图像超分辨率、状态空间模型的最优滤波和预训练网络的优化。

Feb, 2022

变分薛定谔扩散模型

提出了变分薛定谔扩散模型 (VSDM)，利用变分推理线性化薛定谔桥前向评分函数，实现了无需模拟的训练过程，可用于优化传输计划中的扩散模型。VSDM 在模拟实验中表现出对非各向异性形状的高效生成能力，并产生了相较于单变量扩散更直线的样本轨迹。在真实数据中，验证了算法的可伸缩性，并在 CIFAR10 的无条件生成和时间序列建模的条件生成中达到了竞争性表现。值得注意的是，VSDM 不再依赖热启动初始化，而且在训练大规模实验中更易调参。

May, 2024

用于生成学习的潜在 Schr {ö} dinger 桥扩散模型

通过在潜空间中利用 Schr {"o} dinger bridge 扩散模型构建新的生成学习方法，本文对当前扩散模型进行了全面的理论分析，包括利用预训练的编码器 - 解码器架构和 Schr {"o} dinger bridge 框架开发了潜空间中的扩散模型，通过控制生成分布和目标分布之间的二阶 Wasserstein 距离，获得了收敛速率，从而为现有的扩散模型提供了稳健的理论支持。

Apr, 2024

降噪扩散桥模型

通过扩展扩散模型，使用扩散桥模型作为一种自然替代方法，该模型通过从数据中学习扩散桥分数并解决基于这些分数的（随机）微分方程，将一种分布映射到另一种分布，从而实现图像编辑等应用中纳入非随机噪声信息的目标。

Sep, 2023

使用前向 - 后向 SDE 的 Schrödinger 桥可能性训练理论

本文提出了一种新的计算框架，基于正向 - 反向随机微分方程理论，用于似然训练 Schr"odinger Bridge 模型，并展示了该优化原则具有与深度生成模型现代训练技术相适应的适用性，实现了对 MNIST、CelebA 和 CIFAR10 等数据集生成逼真图像的可比较结果。

Oct, 2021

神经薛定谔桥通过非成对图像翻译

本研究介绍了一种新的无配对数据图像翻译方法 ——Unpaired Neural Schrödinger Bridge (UNSB), 它结合了 Schrödinger Bridge 模型和对抗训练等方法来进行学习，有效解决了高分辨率图像翻译困难的问题。

May, 2023

用于头颈部质子治疗计划的高质量 MR 到 CT 综合的扩散薛定谔桥模型

最近在质子治疗的进展中，基于磁共振的治疗计划正逐渐得到认可，以降低与传统基于 CT 的方法相比的额外辐射暴露。这种转变凸显了精确的磁共振与 CT 图像合成的关键性需求，对于精确的质子剂量计算至关重要。本研究引入了扩散薛定谔桥模型（DSBM），这是一种创新的高质量磁共振与 CT 图像合成方法。DSBM 学习了 MR 和 CT 数据分布之间的非线性扩散过程。该方法通过从先验分布而非高斯分布开始合成，提高了传统扩散模型的生成质量和效率。我们通过头颈癌数据集验证了 DSBM 的有效性，并通过图像级和剂量级评估证明了其优于传统图像合成方法。DSBM 在基于磁共振的质子治疗计划中的有效性突出了其在各种临床场景中作为有价值工具的潜力。

Apr, 2024

扩散桥混合传输，薛定谔桥问题和生成建模

提出了一种新的采样迭代算法，用于解决 Schrödinger 桥问题，该算法展现了一种吸引人的性质，能够在每个步骤中实现目标度量之间的有效耦合关系，并且能够作为一种无近似方法用于实现生成模型，具有更大的灵活性、更快的训练速度和更好的样本质量。

Apr, 2023