Jun, 2017

从最优输运的角度看 GAN 和 VAE

PDF
TL;DR该研究简述了 Variational Autoencoders（VAE）、Generative Adversarial Networks（GAN）和 Minimum Kantorovitch Estimators（MKE）三者之间的联系及其研究领域。
发现论文，激发创造
  • 从最优传输到生成模型：VEGAN 食谱

    本文以优化传输问题为基础，研究了无监督生成建模，并使用惩罚最优传输（POT）目标来有效地最小化该问题。作者发现，AAE 中的目标与 POT for the 2-Wasserstein distance 相同，并与其他流行技术如 VAE 进行了比较。作者的理论结果包括更好地理解 VAEs 生成图像的模糊度以及建立 Wasserstein GAN 和 POT for the 1-Wasserstein distance 之间的对偶关系。

    May, 2017

  • 最优输运和生成模型的几何视角

    本文提出一种基于凸几何和最优输运的可变分模型生成方法，通过对 GAN 模型的最优输运视角，表明判别器计算 Kantorovich 势，生成器计算输运映射

    Oct, 2017

  • 深层生成模型的统一化

    本文介绍了针对生成模型学习中 GAN 和 VAEs 的新方法，并阐述了 GAN 和 VAEs 的相似性和差异性，探讨了它们的后验推理和 KL 散度的最小化问题，并将 VAEs 的 importance weighting 方法应用到 GAN 的学习中，同时采用对抗性机制加强 VAEs 模型，实验证明了这些方法的普适性和有效性。

    Jun, 2017

  • 应用最优输运改进 GANs

    本文介绍了新兴的生成对抗网络 -- 优化输运生成对抗网络，提升了图像生成模型的稳定性和生成效果，主要特点是利用 adversarially learned feature space 来定义 mini-batch energy distance 度量优化目标，在多个经典 image generation benchmark test 中达到了最好的性能表现。

    Mar, 2018

  • GAN 的最佳精度

    研究深度生成模型的潜在空间几何结构及优化条件，通过实验提出限制方法，提高生成对抗网络的性能。

    Jul, 2022

  • 熵生成对抗网络与变分自编码器相遇：计算 GAN 样本似然的统计方法

    通过构建一种显式的概率模型，将沃瑟斯坦 GANs 与熵正则化视为基于变分下界的生成模型，从而使得 GANs 和 VAEs 之间建立了有理论支持的联系。同时，作者还在多个数据集上计算了 GANs 的似然统计量，验证了该理论结果。

    Oct, 2018

  • 生成模型潜空间分布保持操作的最优输运映射

    本文介绍了使用分布匹配传输映射来确保潜在空间操作保留先前分布并实现更高质量样本的方法。

    Nov, 2017

  • 对抗计算最优输运映射

    本文介绍了一种新的基于生成对抗网络的优化输运模型，使用 $2$-Wasserstein 距离度量判别器的目标函数，证明了在训练期间，生成器沿着初始和目标分布之间的 $W_2$- 测地线走，最终重现出最优映射，在低维和高维连续设置中进行验证，并证明其在图像数据上的性能优于以前的方法。

    Jun, 2019

  • 对抗变分贝叶斯：统一变分自编码器和生成对抗网络

    介绍了 Adversarial Variational Bayes 技术，可以用于训练具有任意表达力的推理模型的变分自编码器，并将其与生成对抗网络建立起了原则上的联系。

    Jan, 2017

  • 耦合变分自编码器

    本研究提出了基于最优输运理论（OT）的耦合变分自编码器 (C-VAE) 来克服常规变分自编码器的先验不完整问题，实验结果表明 C-VAE 在保证数据保真度、潜在向量质量以及生成样本质量方面优于常规 VAE、WAE 和 InfoVAE。

    Jun, 2023