GAN的平滑性和稳定性
我们引入了一种方法来稳定生成对抗网络(GAN),即通过将生成器目标定义为对鉴别器的展开优化来训练,从而解决了GAN训练中的常见问题和提高了生成器的多样性和数据分布覆盖率。
Nov, 2016
本文提出了一种针对高维度情况下 GAN 训练不稳定的方法,即使用一个生成器同时生成多个不同低维度投影数据的判别器来提供连续的梯度,实验结果表明该方法能够生成较高质量的图像样本。
May, 2017
本文分析了生成对抗网络(GANs)的优化问题,通过引入正则化方法提高训练速度和稳定性,并对经典GAN和Wasserstein GAN优化过程的局部渐近稳定性进行了研究。
Jun, 2017
本文研究生成对抗网络中的学习动态,通过对简单但富有挑战性收敛行为(如梯度消失、模式崩溃、发散或振荡)的参数模型进行理论分析和实践研究,发现使用一阶判别器步骤是导致GAN训练具有挑战性的因素之一。
Jun, 2017
本文针对GAN训练中绝对连续数据和生成器分布的本地收敛性已经得到证明的观点,进一步阐述了绝对连续性要求的必要性。作者证明了非绝对连续分布情况下,不稳定的GAN训练不一定收敛,提出了各种正则化策略用于稳定GAN训练,并对处于低维流形上的普通GAN进行了更一般的收敛性分析。
Jan, 2018
运用控制理论中的闭环控制方法,通过直接建模 GANs 功能空间中的动力学模型,提出了一种稳定 GANs 训练的方法,并取得了最先进的数据生成任务性能。
Sep, 2019
本文综述了生成模型的最新应用——生成对抗网络(GAN)及其在计算机视觉和机器学习领域的实际应用,讨论了GAN训练中的困难和障碍,并调查了不同研究者提出的训练方案,以求实现GAN的稳定训练,最后探讨了与该主题相关的新问题和研究方向。
Jun, 2020
通过研究由GAN训练引起的连续时间动力学,我们验证了基于ODE求解器的方法(如Runge-Kutta),结合控制积分误差的正则化器,可以稳定训练GAN,这一方法胜过先前的一些强基线方法。
Oct, 2020
本文从控制理论的角度出发,设计并应用了一种基于高阶噪声的通用控制器Brownian Motion Controller (BMC),并在DiracGANs和普通GANs中进行了实验,发现使用BMC能够提高GANs训练的稳定性和收敛速度,在StyleGANv2-ada中表现出更好的性能。
Jun, 2023