通过近似最优传播改进生成模型

Mar, 2024

Improving Diffusion-Based Generative Models via Approximated Optimal Transport

Daegyu Kim, Jooyoung Choi, Chaehun Shin, Uiwon Hwang, Sungroh Yoon

TL;DR我们介绍了逼近最优输运（Approximated Optimal Transport，AOT）技术，一种用于扩散式生成模型的新型训练方案。我们的方法旨在逼近并将最优输运集成到训练过程中，大大提高了扩散模型准确估计去噪器输出的能力。通过在训练中使用 AOT，我们实现了优越的图像质量和减少的采样步骤。特别是在无条件和有条件生成中，我们分别仅使用 27 个 NFE（Numerical Fourier Expansion）和 29 个 NFE，实现了 1.88 和 1.73 的 FID（Fréchet Inception Distance）分数。此外，当将 AOT 应用于指导鉴别器的训练时，在无条件和有条件生成方面，我们分别取得了 1.68 和 1.58 的新领先 FID 分数，每个模型使用 29 个 NFE。这一结果证明了 AOT 在提升扩散模型性能方面的有效性。

Abstract

We introduce the approximated optimal transport (AOT) technique, a novel training scheme for diffusion-based generative models. Our approach aims to approximate and integrate optimal transport into the training p

approximated optimal transport diffusion-based generative models ode trajectories fid scores sampling steps

发现论文，激发创造

分析和改进基于 OT 的对抗网络

以单一框架统一 Optimal Transport（OT）为基础的对抗方法，通过对统一框架的全面分析来阐明每个组成部分在训练动力学中的作用。我们提出了一个简单而新颖的方法，逐步改进生成分布，并逐渐与数据分布对齐。该方法在 CIFAR-10 上实现了 2.51 的 FID 得分，胜过了统一的基于 OT 的对抗方法。

Oct, 2023

鉴别器最优输运

通过鉴别器优化过程，我们在一类广义生成对抗网络中证明，鉴别器训练过程增加了 $p$ 与 $p_G$ 之间 Wasserstein 距离的双重代价函数下界，这意味着训练后的鉴别器可以近似从 $p_G$ 到 $p$ 的最优传输方案。基于一些实验和一点 OT 理论，我们提出了一个判别器最优传输方案（DOT）来改善所生成的图像。我们证明它可以提高 Inception 分数和由 CIFAR-10，STL-10 和 ImageNet 的公共预训练条件 GAN 训练的 FID 计算得出的非条件 GAN 的生成质量。

Oct, 2019

DPM-OT：一种基于最优传输的新扩散概率模型

通过创新性地将逆扩散视为不同阶段的潜变量之间的最优传输（OT）问题，提出了 DPM-OT，一种用于快速 DPM 的统一学习框架，通过 OT 映射表示直接快速生成高质量样本，具有约 10 个函数评估内的优秀表现。大量实验证实了 DPM-OT 在速度和质量（FID 和模式混合）方面的有效性和优势，因此为生成建模提供了高效的解决方案。

Jul, 2023

非平衡最优输运半对偶形式生成建模

本文提出基于 Unbalanced Optimal Transport (UOT) 的半对偶形式构建的新型生成模型，相比于基于 OT 的方法在处理噪点，稳定性和训练收敛速度等方面表现更优。通过实验验证了该模型的性质，并研究了 UOT 之间分布差异的理论上界。实验结果显示，该模型在 CIFAR-10 和 CelebA-HQ-256 数据集上的 FID 分别为 2.97 和 5.80，优于现有基于 OT 的生成模型。

May, 2023

具有鲁棒性的最优输运及其在生成建模和域自适应中的应用

本文提出了一种鲁棒性的 Optimal Transport（OT）形式，以解决数据中异常值的问题，并应用于深度学习中的 GAN 和领域适应问题，同时在实验中证明了该方法的有效性。

Oct, 2020

最优输运映射生成建模

该研究提出了一种使用 Optimal Transport map 直接在高维图片空间中进行生成建模的算法，并在图像恢复等任务上验证了其有效性。

Oct, 2021

应用最优输运改进 GANs

本文介绍了新兴的生成对抗网络 -- 优化输运生成对抗网络，提升了图像生成模型的稳定性和生成效果，主要特点是利用 adversarially learned feature space 来定义 mini-batch energy distance 度量优化目标，在多个经典 image generation benchmark test 中达到了最好的性能表现。

Mar, 2018

使用学生强制最优传输改善文本生成

利用最大似然估计进行神经语言模型训练时，存在曝光偏差问题。提出使用最优传输匹配训练和测试时的序列，以及基于文本序列的结构和上下文信息进一步改进最优传输学习，有效改善了机器翻译、文本摘要和文本生成任务的表现。

Oct, 2020

基于外观最优传输的身份交换用于伪造检测

本文提出了一种能够改善伪造检测性能的新的身份交换算法，将外观映射问题规范化为最优传输问题，并提出了一种外貌最优传输模型（AOT）以在潜在空间和像素空间中进行规范化。通过模拟最佳传输计划并通过在潜在空间中学习的特征的 Wasserstein 距离来解决它，使得性能更好，计算量比传统优化方法少。我们进一步通过引入鉴别器来将假的部分与真实和假的图像拼贴块的混合物区分开来，以进一步精细解决这个最优传输计划的问题，并证明了我们的方法相对于最先进的方法的优越性以及生成的数据改善面部伪造检测性能的能力

Nov, 2020

在大规模最优输运问题上的可扩展和高效计算

提出了一种名为 SPOT（Scalable Push-forward of Optimal Transport）的基于隐式生成学习的方法来解决 “最优传输”（Optimal Transport，OT）中的可扩展性问题，该方法通过引入参考分布而近似最优传输计划，并将其转化为极小极大问题。实验结果表明 SPOT 系统具有可靠性和较好的收敛性，并允许从最优传输计划中高效采样，从而有利于领域适应等下游应用。

May, 2019