Oct, 2018

熵生成对抗网络与变分自编码器相遇：计算 GAN 样本似然的统计方法

PDF
TL;DR通过构建一种显式的概率模型，将沃瑟斯坦 GANs 与熵正则化视为基于变分下界的生成模型，从而使得 GANs 和 VAEs 之间建立了有理论支持的联系。同时，作者还在多个数据集上计算了 GANs 的似然统计量，验证了该理论结果。
发现论文，激发创造
  • 深层生成模型的统一化

    本文介绍了针对生成模型学习中 GAN 和 VAEs 的新方法，并阐述了 GAN 和 VAEs 的相似性和差异性，探讨了它们的后验推理和 KL 散度的最小化问题，并将 VAEs 的 importance weighting 方法应用到 GAN 的学习中，同时采用对抗性机制加强 VAEs 模型，实验证明了这些方法的普适性和有效性。

    Jun, 2017

  • 对抗变分贝叶斯：统一变分自编码器和生成对抗网络

    介绍了 Adversarial Variational Bayes 技术，可以用于训练具有任意表达力的推理模型的变分自编码器，并将其与生成对抗网络建立起了原则上的联系。

    Jan, 2017

  • 通过 MCMC 速度测量学习变分自动编码器

    研究纵观了变分自编码器（VAEs）的训练方法，提出了一种基于熵的自适应方法来优化更紧的变分下界，该方法能适应潜在层次变量模型中复杂的后验几何结构，并获得更高的生成度量。

    Aug, 2023

  • 生成模型的自适应密度估计

    该论文研究了无监督学习中生成模型的训练方法，提出了一种在对抗网络与似然训练之间进行混合训练的方法，其中使用深度可逆变换来解决概率和逆变换之间的冲突，实现了更好的生成样本和更高的似然性评估。

    Jan, 2019

  • 变分推断中的分布匹配

    本文揭示了 Variational Autoencoders (VAEs) 的局限性，它们无法稳定地学习潜在空间和可见空间中的边缘分布，因为学习过程是通过匹配条件分布进行的。同时，文章通过大规模的评估 VAE-GAN 混合模型并分析类概率估计对分布学习的影响，得出 VAE-GAN 混合模型在可扩展性、评估和推理方面比 VAE 更加困难，无法提高 GAN 的生成质量。

    Feb, 2018

  • 一种贝叶斯非参数方法的生成模型：使用 Wasserstein 和最大均值差异度集成变分自编码器和生成对抗网络

    对 GANs 和 VAEs 进行贝叶斯非参数方法的融合，使用 Wasserstein 和最大均值差异度量在损失函数中结合以学习潜在空间并生成多样且高质量的样本，实现在异常检测和数据增强等各种生成任务中卓越性能的新型模型，进一步通过在代码空间中引入额外的生成器来增强模型的能力，可用于各种应用的更强大的生成模型。

    Aug, 2023

  • 从变分到确定性自编码器

    提出一种基于正则化的确定性编码器和解码器的生成模型框架，替换 VAEs 中的随机性来达到优化潜在空间的目的，并通过引入后验密度估计步骤来生成具有相当或更好质量的样本。

    Mar, 2019

  • Gromov-Wasserstein 自编码器

    本文提出了一种新的表征学习方法，Gromov-Wasserstein Autoencoders（GWAE），通过将 variational autoencoding scheme 与 Gromov-Wasserstein metric 相结合来直接匹配潜变量和数据分布，以实现在不改变其目标的情况下将 meta-priors 引入潜空间。

    Sep, 2022

  • 基于 Wasserstein 自编码器的低维本质数据的统计分析

    研究论文通过适当选择网络结构，展示了 WAEs 能够学习数据分布，并且其收敛速度与特征维度无关，只依赖于数据分布的内在维度。

    Feb, 2024

  • 使用隐式分布的变分推断

    本文综述了现有算法之间的联系，包括广泛使用的变分自编码器、以对抗方式学习的推断、运算符变分推断、基于生成式对抗网络的图像重建等，提出了新的算法框架，并基于密度比估计或去噪等方法展示了实际的推断算法。

    Feb, 2017