ICLRFeb, 2018

生成对抗网络的变分不等式视角

PDF
TL;DR本文提出一种将 GAN 优化问题转化为广义变分不等式的方法，并借鉴数学规划方法，通过平均，外推以及过往外推等方法，扩展了变分不等式优化技术用于 GAN 的训练。
generative adversarial networksgansoptimization methodsvariaitonal inequalitiesstochastic gradient method
发现论文，激发创造
  • 通过原始 - 对偶次梯度方法训练生成对抗网络：从拉格朗日视角看 GAN

    本研究将生成式对抗网络的 minimax 博弈与一个凸优化问题中的 Lagrangian 函数的鞍点联系起来，并展示了标准 GAN 训练过程和凸优化的原始 - 对偶次梯度方法之间的联系。此外，本研究提出了一种新的目标函数来训练模型，以解决模式塌陷和生成多样化的问题。实验结果显示了该方法的有效性。

    Feb, 2018

  • 生成对抗网络（GANs）的收敛问题

    本文旨在为数学家提供适用的 GANs 理论解释，概述 GANs 的训练问题和拓扑学和博弈论视角如何贡献于我们理解和实践 GANs 的技术的正面和反面结果。

    Jun, 2018

  • 生成对抗网络综述：变种、应用与训练

    本文综述了生成模型的最新应用 —— 生成对抗网络（GAN）及其在计算机视觉和机器学习领域的实际应用，讨论了 GAN 训练中的困难和障碍，并调查了不同研究者提出的训练方案，以求实现 GAN 的稳定训练，最后探讨了与该主题相关的新问题和研究方向。

    Jun, 2020

  • 生成对抗网络优化空间的深入探究

    本研究通过新的可视化技术研究了 GAN 优化景观，并从理论和实践的角度对 GAN 的训练进行了实证研究，发现 GAN 在训练过程中会显著旋转，并最终收敛于一个稳定的马鞍点而非最小值。

    Jun, 2019

  • 几何生成对抗网络

    该研究揭示了 GAN 模型的几何思想，提出了通过 SVM 分离超平面最大化间隔的几何 GAN，证明了其可以收敛到鞍点，并显示其优越的性能。

    May, 2017

  • 隐式生成模型中的学习

    本文介绍了生成对抗网络（GANs）的算法框架，将其与隐式生成模型的学习算法相联系，提出了基于密度比估计的方法并借此引导观察者更深层次地思考生成模型。

    Oct, 2016

  • 基于在线学习的生成对抗网络方法

    本研究提出了一种名为 Chekhov GAN 1 的训练方法，将 GAN 的训练问题视为在零和博弈中找到一种混合策略，结合在线学习的思想，理论和实践证明了该方法收敛于半浅 GAN 体系结构，提高了稳定性和性能。

    Jun, 2017

  • 生成网络的潜空间优化

    本文介绍了生成对抗网络的成功因素，并提出 “生成潜在优化” 框架来训练深度卷积生成器，实现了可视化合成、样本插值等功能，同时不需要对抗优化方案。

    Jul, 2017

  • 使用隐式分布的变分推断

    本文综述了现有算法之间的联系，包括广泛使用的变分自编码器、以对抗方式学习的推断、运算符变分推断、基于生成式对抗网络的图像重建等，提出了新的算法框架，并基于密度比估计或去噪等方法展示了实际的推断算法。

    Feb, 2017

  • 生成对抗网络概述

    本文概述了生成对抗网络在信号处理中的应用，讨论了 GANs 的训练方法和构建策略以及它们在 deep representations 学习中的表现和存在的挑战。

    Oct, 2017