MMFeb, 2019

Wasserstein GAN 可以执行 PCA

PDF
TL;DR研究生成敌对网络是一个强大的框架，而文中的研究将 GANs 应用于简单的线性生成器高斯数据场景下，发现原 GAN 无法恢复最优 PCA 解，而 Wasserstein GAN 可以在样本大小的极限下接近 PCA 解，因此可能成为一种基于广泛数据设置的最优 GAN 体系结构的基础。
generative adversarial networksgansoptimization metricswasserstein ganpca
发现论文，激发创造
  • 改进的 Wasserstein GANs 训练

    提出了一种比传统的 WGAN 更好的 GAN 训练方法，使用正则化替代权重截取，通过惩罚评判器对其输入梯度的范数，可以实现各种 GAN 结构的稳定训练和高质量生成。

    Mar, 2017

  • 基于 Wasserstein GAN 的人脸超分辨率

    本文比较了在单幅图像超分辨率上使用 Wasserstein 距离和其他训练目标时，各种 GAN 架构的表现，结果表明，带梯度惩罚的 Wasserstein GAN（WGAN-GP）提供了稳定且收敛的 GAN 训练，Wasserstein 距离是衡量训练进展的有效指标。

    May, 2017

  • Wasserstein GAN

    介绍了一种名为 WGAN 的新算法，可以提高学习的稳定性，解决 GAN 训练中的问题，提供有用的学习曲线进行调试和超参数搜索，并提供相关的理论工作，强调了与其他分布之间的深层次联系。

    Jan, 2017

  • 基于 Wasserstein 的普通生成对抗网络

    生成对抗网络（GANs）和 Wasserstein GANs 之间的关系及其在概率分布估计中的应用进行研究，其中重点研究了维数降低特性、Oracle 不等式和 Lipschitz 函数的近似收敛性。

    Mar, 2024

  • Banach Wasserstein GAN

    本研究探索了 Wasserstein 生成对抗网络在巴拿赫空间中引入梯度惩罚后的理论扩展和一些具体选择的基础点，重点关注 Sobolev 范数，并在 CIFAR-10 和 CelebA 中展示了性能提升。

    Jun, 2018

  • 使用切片瓦瑟斯坦距离进行生成建模

    本篇论文提出了一种基于随机投影的生成模型，该模型较传统的 GAN 模型更加稳定和精确，采用的 Wasserstein 距离作为度量计算生成样本的真实性，可以得到更准确的生成结果。

    Mar, 2018

  • 从 GAN 到 WGAN

    本论文介绍了生成对抗网络（GAN）模型的数学原理及其训练难度，引入了 Wasserstein GAN，采用一种平滑的度量方法来度量两个概率分布之间的距离，以提高 GAN 的训练效果。

    Apr, 2019

  • 点云 GAN

    本文提出了一种用于生成点云数据的改进的 GAN 算法（PC-GAN），结合了层次贝叶斯建模和隐式生成模型的思想，使用后验推理网络来学习隐藏变量、使用紧凑的 Wasserstein 距离估计来定义优化目标，从而实现了多个 GAN 算法的一般化框架。实验证明，PC-GAN 比现有方法更好地生成了许多 3D 模型，并且具有竞争性能的潜力。

    Oct, 2018

  • Wasserstein 条件生成对抗神经网络的稳定并行训练

    提出了稳定且并行的方法，用固定的计算资源训练 Wasserstein 条件 GAN，通过使用多个生成器并避免进程间通信来减少模式塌陷的风险和提高可扩展性。在 CIFAR10，CIFAR100 和 ImageNet1k 数据集上验证了该方法的性能，并以固定计算时间内的可扩展性和最终准确性来评估性能。使用达到 2000 个 NVIDIA V100 GPU 的 OLCF 超算机 Summit 进行弱扩展.

    Jul, 2022

  • Wasserstein GANs 的工作原因在于它们未能逼近 Wasserstein 距离

    我们对 Wasserstein GANs 进行了深入的数学分析，发现 WGAN 损失并不是 Wasserstein 距离的一个有意义的近似，而且 Wasserstein 距离对深度生成模型而言不是一个理想的损失函数，Wasserstein GANs 之所以成功，实际上是由于对 Wasserstein 距离的近似失败所致。

    Mar, 2021