关于批归一化和权重归一化对生成对抗网络的影响

NIPSApr, 2017

关于批归一化和权重归一化对生成对抗网络的影响

On the Effects of Batch and Weight Normalization in Generative Adversarial Networks

Sitao Xiang, Hao Li

TL;DR本研究介绍了一种基于权重标准化的方法，用于改善生成对抗网络（GAN）的训练稳定性、效率和生成样本质量，并提供了基于测试集的平方欧几里得重构误差作为新的客观质量度量来评估训练性能，结果表明该方法优于基于批标准化（BN）的方法，并在常用数据集上取得了更好的定性和定量结果。

Abstract

generative adversarial networks (GANs) are highly effective unsupervised learning frameworks that can generate very sharp data, even for data such as images with complex, highly multimodal distributions. However GANs are known to be very hard to train, suffering from problems such as m

generative adversarial networks batch normalization weight normalization unsupervised learning objective quality measure

发现论文，激发创造

大规模图像分类的批归一化和权重归一化算法比较

本文探讨了批归一化算法与权重归一化算法在大规模实际应用中的表现差异。经过实验发现，虽然权重归一化算法在训练精度方面表现更好，但最终的测试精度显著低于批归一化算法，并且权重归一化算法在大规模深度网络训练上稳定性差，因此不适合大规模实际应用。

Sep, 2017

增强型对抗生成网络正则化和规范化的大规模研究

本文从实用角度出发，分析评估生成对抗网络的常见错误和可重现性问题，并提供预训练模型。

Jul, 2018

深度学习中标准化方法的新诠释

本文提出了一项引理来解释多种神经网络中的归一化方法，从而能够在统一的框架下解释归一化的概念。我们的结论是，这些归一化方法能够让权重的范数增大，可能会造成攻击性漏洞的风险，同时，证明这些归一化方法可以帮助稳定网络训练。

Jun, 2020

改进的 Wasserstein GANs 训练

提出了一种比传统的 WGAN 更好的 GAN 训练方法，使用正则化替代权重截取，通过惩罚评判器对其输入梯度的范数，可以实现各种 GAN 结构的稳定训练和高质量生成。

Mar, 2017

批通道归一化和权重标准化的微批量训练

通过使用 Weight Standardization (WS) 和 Batch-Channel Normalization (BCN)，能够将 Batch Normalization（BN）中的两个成功因素引入 micro-batch training 中，从而为计算机视觉任务中不可避免的 micro-batch 训练提供有效的技术支持。通过验证在包括图像分类，目标检测，实例分割，视频识别和语义分割等全面的计算机视觉任务中，WS 和 BCN 均显著改善了 micro-batch 训练，甚至能够与大 batch 训练时的 BN 相媲美或超越。

Mar, 2019

生成对抗网络的谱归一化

本文提出一种名为谱归一化的新颖权重归一化技术，用于稳定生成对抗网络的鉴别器训练。该方法计算轻便，易于应用于现有的实现，并通过在 CIFAR10、STL-10 和 ILSVRC2012 数据集上的实验验证了其有效性，确认谱归一化 GANs 能够生成更好或同质量的图像相对于之前的训练稳定技术。

Feb, 2018

生成对抗网络的梯度归一化

本文提出了一种新的归一化方法 —— 梯度归一化（GN），通过在鉴别器函数上施加硬 1-Lipschitz 约束，从而增加鉴别能力，解决了生成对抗网络中尖锐梯度空间引起的训练不稳定性问题，并在四个数据集上进行了广泛实验，证明了使用梯度归一化训练的 GAN 模型在 Frechet Inception Distance 和 Inception Score 方面优于现有方法。

Sep, 2021

GAN 中正则化和归一化的系统调查

本文系统描述了 GAN 训练的不同的视角和正则化与归一化的不同目标，提出了更细致的分类法，并比较了现有的主流方法在不同数据集上的表现，同时探究了这些正则化与归一化方法在最新 GAN 中的应用以及未来的研究方向。

Aug, 2020

分组白化：平衡学习效率和表征能力

本文介绍了一种名为 Group Whitening 的新型批量归一化方法，该方法结合了白化方法和 Group Normalization 的优点，避免了普通批量归一化的缺点，并且从模型表征容量的角度，分析了批归一化的表征能力与批大小（组数）的关系，通过在 ResNet 和 ResNeXt 上的实验，验证了 Group Whitening 在不同架构中的性能优势。

Sep, 2020

组归一化

本文提出了组归一化（GN）作为批量归一化（BN）的一种简单替代方案，GN 可解决 BN 在小批量大小下估计错误的问题，稳定性高且可应用于多种计算机视觉任务，如目标检测和图像分割。

Mar, 2018