LOGAN: 生成对抗网络的潜在优化

Dec, 2019

LOGAN: Latent Optimisation for Generative Adversarial Networks

Yan Wu, Jeff Donahue, David Balduzzi, Karen Simonyan, Timothy Lillicrap

TL;DR利用自然梯度基于潜在空间的优化改进了 CS-GAN 模型，增强了模型的生成器和辨别器之间的互动，通过在 ImageNet 数据集上的实验表明，该方法在生成对抗网络训练中可显著提高模型性能。

Abstract

Training generative adversarial networks requires balancing of delicate adversarial dynamics. Even with careful tuning, training may diverge or end up in a bad equilibrium with dropped modes. In this work, we imp

generative adversarial networks adversarial dynamics latent optimisation imagenet inception score

发现论文，激发创造

生成网络的潜空间优化

本文介绍了生成对抗网络的成功因素，并提出 “生成潜在优化” 框架来训练深度卷积生成器，实现了可视化合成、样本插值等功能，同时不需要对抗优化方案。

Jul, 2017

生成模型的自适应密度估计

该论文研究了无监督学习中生成模型的训练方法，提出了一种在对抗网络与似然训练之间进行混合训练的方法，其中使用深度可逆变换来解决概率和逆变换之间的冲突，实现了更好的生成样本和更高的似然性评估。

Jan, 2019

大规模 GAN 训练的高保真自然图像合成

本文介绍了使用生成式对抗网络和正交正则化训练的大规模条件图片生成方法，并提出了一种截断技巧来控制生成器输入方差，从而在生成高保真度和多样化样本方面实现平衡。该方法应用于 ImageNet 数据集上，在 128x128 分辨率下，IS（Inception Score）为 166.5，FID（Frechet Inception Distance）为 7.4，表现超过之前的方法。

Sep, 2018

生成对抗网络的 Stein 潜变量优化

本文介绍了一种命名为 SLOGAN 的新方法，通过引入编码网络和无监督条件对比损失来确保单个混合分量生成的数据代表单个属性，成功地学习了平衡或不平衡的属性，并在缺少属性信息（例如不平衡比）的情况下实现最新的无监督条件生成性能。

Jun, 2021

反演生成对抗网络的生成器

通过先前训练好的 GAN 模型，将图像投影到潜在空间中以获取表示，我们可以在 MNIST 任务和 Omniglot 任务中成功地保留数字和字符的信息，这种方法可以应用于一次性学习。

Nov, 2016

GANs 的双对比损失和注意力

本文提出了多项改进，包括新型的双重对比损失和重塑注意力机制，来加强生成对抗网络的无条件图像生成能力，在多个基准数据集上将最先进的状态压制得更为出色。

Mar, 2021

生成对抗网络的变分不等式视角

本文提出一种将 GAN 优化问题转化为广义变分不等式的方法，并借鉴数学规划方法，通过平均，外推以及过往外推等方法，扩展了变分不等式优化技术用于 GAN 的训练。

Feb, 2018

生成对抗网络的梯度归一化

本文提出了一种新的归一化方法 —— 梯度归一化（GN），通过在鉴别器函数上施加硬 1-Lipschitz 约束，从而增加鉴别能力，解决了生成对抗网络中尖锐梯度空间引起的训练不稳定性问题，并在四个数据集上进行了广泛实验，证明了使用梯度归一化训练的 GAN 模型在 Frechet Inception Distance 和 Inception Score 方面优于现有方法。

Sep, 2021

广义对抗学习推断

通过将 self-supervised feedback 引入到 GANs 的训练中，匹配多个随机变量元组的联合分布，以获得超出现有方法的更高应用性。

Jun, 2020

提高生成对抗网络的泛化能力和稳定性

本文通过分析实际情景下 GAN 的泛化能力，证明了原始 GAN 的损失函数训练得到的鉴别器的泛化能力较差，并提出了一种零中心梯度惩罚策略以改善鉴别器的泛化能力，并保证 GAN 的收敛和泛化。通过在合成和大规模数据集上的实验，验证了理论分析的正确性。

Feb, 2019