Oct, 2019

利用差异学习 GAN 和集成模型

PDF
TL;DR本文提出了一种使用误差度量方法来训练生成式对抗网络，通过该方法可以获得更好的泛化性能，并使用该方法来训练 DGAN 和 EDGAN 等两个算法，实现了在玩具示例和多个基准数据集上的有竞争力的性能表现。
generative adversarial networksdiscrepancy measuregeneralization guaranteestrainingedgan
发现论文，激发创造
  • 生成对抗学习的逼近与收敛特性

    本文研究了生成对抗网络在逼近目标分布时的两个基本问题：限制鉴别器家族对近似质量的影响和不同目标函数的收敛条件与分布收敛之间的关系。定义了对抗分歧的概念，证明了使用受限制的鉴别器家族具有矩匹配效应，并且对于严格对抗性分歧的目标函数，证明了目标函数上的收敛蕴含着弱收敛。

    May, 2017

  • GAN 中的歧视 - 泛化取舍

    本文研究了生成式对抗网络的判别器集合，证明了其线性张成是连续函数有界集合的密集子集，则其是判别性的，我们还通过不同的评价指标开发了广义边界，阐明了实际性能。

    Nov, 2017

  • 生成对抗网络：超越散度最小化

    本研究讨论了与 G（生成器）相关的大多数损失函数的属性，表明这些损失函数并不是发散的，并且不具有发散的期望平衡。研究结果显示， GANs 不符合发散最小化理论，并且形成了比先前假设的模型更广泛的模型范围。

    Sep, 2018

  • 使用训练所提供的分歧量来量化评估 GANs

    本文通过使用通常仅用于培训的散度和距离函数来对各种类型的 GAN 性能进行评估，观察了所提出的度量之间的一致性，发现测试时间指标并不支持使用相同训练时间标准的网络，我们还将所提出的度量与人类感知分数进行比较。

    Mar, 2018

  • 边界搜索生成对抗网络

    提出了一种用于离散数据训练生成式对抗网络（GANs）的方法，称为边界寻找 GANs（BGANs）。该方法利用鉴别器估计的差异度量计算生成样本的重要性权重，为训练生成器提供了策略梯度，并证明了该算法在离散图像和字符基自然语言生成方面具有很好的效果。此外，目标函数可以扩展到连续的数据集，可用于提高训练的稳定性，并证明了在 Celeba、LSUN 卧室场景理解和 Imagenet 数据集上，该方法的实用性。

    Feb, 2017

  • GAN 的凸对偶框架

    本文介绍了一种用于分析生成对抗网络的凸对偶框架，提出在约束条件为凸集时，通过最小化生成模型与经过判别器的数据分布匹配但是被期望的矩所限制的分布的 JS 散度，来得到生成模型。同时，将此框架应用于 f-GAN 和 Wasserstein GAN 网络，提出了一种新的混合 JS 散度和 Wasserstein 距离的分布度量用于正则化中。

    Oct, 2018

  • 许多路径通向平衡：GANs 不需要在每一步都减小差异

    通过实证方法，发现 GAN 的训练不仅仅是最小化分布之间的散度，而是通过一些不必要的梯度来促进达到纳什均衡。

    Oct, 2017

  • GAN 的在线自适应课程学习

    提出了一种基于多个鉴别器网络来训练生成器的创新框架，通过更新分配给每个判别器的混合权重来反映生成器的进展情况，实验结果表明能够通过学习曲线来提高样本的质量和多样性。

    Jul, 2018

  • 提高生成对抗网络的泛化能力和稳定性

    本文通过分析实际情景下 GAN 的泛化能力，证明了原始 GAN 的损失函数训练得到的鉴别器的泛化能力较差，并提出了一种零中心梯度惩罚策略以改善鉴别器的泛化能力，并保证 GAN 的收敛和泛化。通过在合成和大规模数据集上的实验，验证了理论分析的正确性。

    Feb, 2019

  • 从密度比估计角度看生成对抗网络

    提出了一种基于密度比估计和 f - 散度最小化的算法，旨在通过多种视角来了解生成对抗网络（GANs）的特点，提高生成器的学习效果。

    Oct, 2016