松弛瓦石均衡及其在GAN中的应用

May, 2017

Relaxed Wasserstein with Applications to GANs

Xin Guo, Johnny Hong, Tianyi Lin, Nan Yang

TL;DR本文提出了一种新的Relaxed Wasserstein（RW）距离，通过广义化Wasserstein-1距离与BregmanCost函数，其所得到的RW距离具有良好的统计性能，同时不牺牲计算可行性，与GANs框架结合，我们开发了Relaxed WGANs（RWGANs），在使用启发式方法进行近似的同时不仅在统计上具有灵活性，而且在现实图像上的实验表明，在使用KL代价函数下，RWGAN优于其他竞争方法，例如WGAN，即使使用梯度惩罚。

Abstract

Generative Adversarial Networks (GANs) provide a versatile class of models for generative modeling. To improve the performance of machine learning models, there has recently been interest in designing objective functions based on Wasserstein distance rather than Jensen-Shannon (JS) divergence. In this paper, we propose a novel asymmetric statistical divergen

发现论文，激发创造

使用正则化最优传输训练 GAN 的收敛性和鲁棒性

本文通过基于正则化最优传输的平滑Wasserstein GAN公式实现梯度信息的获取，从而实现对该目标函数的一阶优化，为一类生成对抗网络优化算法建立了理论收敛保证，且仅需要解决鉴别器问题以近似最优。该算法计算效率高，应用于MNIST数字以及CIFAR-10图像数据集相比其他同等架构和计算能力的算法生成的图像效果显著。

Feb, 2018

改进Wasserstein GAN的训练：一致性损失及其双重效应

本文提出了一种创新的方法来强制实现WGAN的训练过程中的Lipschitz连续性，并与最近的半监督学习方法之一进行了无缝连接，导致不仅产生比以前方法更好的照片真实样本，而且还出现了最新的半监督学习结果，其中我们的方法在仅使用1,000个CIFAR-10图像时产生了超过5.0的Inception分数，并且在仅使用4,000个标记图像的情况下超过90％的CIFAR-10数据集的精度，是我们所知道的第一个实现此结果的方法。

Mar, 2018

使用切片瓦瑟斯坦距离进行生成建模

本篇论文提出了一种基于随机投影的生成模型，该模型较传统的GAN模型更加稳定和精确，采用的Wasserstein距离作为度量计算生成样本的真实性，可以得到更准确的生成结果。

Mar, 2018

Banach Wasserstein GAN

本研究探索了Wasserstein生成对抗网络在巴拿赫空间中引入梯度惩罚后的理论扩展和一些具体选择的基础点,重点关注Sobolev范数,并在CIFAR-10和CelebA中展示了性能提升。

Jun, 2018

(q,p)-Wasserstein GANs: 对 Wasserstein GANs 的基础度量进行比较

本文介绍了一种新的Wasserstein GANs模型，可以用更一般的p-Wasserstein度量来改善模型。通过实验，我们发现基于l^q度量的模型可以显著提高模型效果，相比于以往的基于l^2度量的模型。

Feb, 2019

Wasserstein-2 生成网络

该论文提出了一种新颖的端到端非极小算法，用于训练最优输运映射以逼近Wasserstein-2距离，并使用输入凸神经网络和循环一致性正则化来近似Wasserstein-2距离，解决了流行的熵和二次正则化中存在偏差和高维度缩放问题的不足，并在诸多任务上进行了实验评估。

Sep, 2019

在$f$-GANs和Wasserstein GANs之间架起桥梁

本文提出了一种称为KL-Wasserstein GAN的新的生成对抗网络目标函数，这种方法基于$f$-GANs和Wasserstein GANs的批评家目标的推广，取得了在CIFAR10图像生成方面的新的最优成果。

Oct, 2019

GAN中Wasserstein距离的广义实现

本文针对Wasserstein GAN在现实中实现的不足，提出了一种更加松弛的Sobolev对偶方法，使得优化中的Lipschitz约束不再强制，该方法被命名为Sobolev Wasserstein GAN（SWGAN），实验表明其优于传统方法。

Dec, 2020

Wasserstein GANs的工作原因在于它们未能逼近Wasserstein距离

我们对Wasserstein GANs进行了深入的数学分析，发现WGAN损失并不是Wasserstein距离的一个有意义的近似，而且Wasserstein距离对深度生成模型而言不是一个理想的损失函数，Wasserstein GANs之所以成功，实际上是由于对Wasserstein距离的近似失败所致。

Mar, 2021

基于Wasserstein的普通生成对抗网络

生成对抗网络（GANs）和Wasserstein GANs之间的关系及其在概率分布估计中的应用进行研究，其中重点研究了维数降低特性、Oracle不等式和Lipschitz函数的近似收敛性。

Mar, 2024