AAAIMar, 2021

GAN 的稀疏感知归一化

PDF
TL;DR本文提出了一种新的归一化方法（SAN），并通过大量实验证明，与现有的方法相比，SAN 能够在 GAN 的训练中取得更好的效果。SAN 考虑了稀疏性，并且在 ReLU 激活的卷积网络中特别有效，并且在图像到图像翻译任务中表现出更好的性能，并且能够在较少的训练时期内以及较小的容量网络中发挥作用，而且几乎不需要计算开销。
发现论文，激发创造
  • 生成对抗网络的谱归一化

    本文提出一种名为谱归一化的新颖权重归一化技术，用于稳定生成对抗网络的鉴别器训练。该方法计算轻便，易于应用于现有的实现，并通过在 CIFAR10、STL-10 和 ILSVRC2012 数据集上的实验验证了其有效性，确认谱归一化 GANs 能够生成更好或同质量的图像相对于之前的训练稳定技术。

    Feb, 2018

  • 增强型对抗生成网络正则化和规范化的大规模研究

    本文从实用角度出发，分析评估生成对抗网络的常见错误和可重现性问题，并提供预训练模型。

    Jul, 2018

  • 生成对抗网络的梯度归一化

    本文提出了一种新的归一化方法 —— 梯度归一化（GN），通过在鉴别器函数上施加硬 1-Lipschitz 约束，从而增加鉴别能力，解决了生成对抗网络中尖锐梯度空间引起的训练不稳定性问题，并在四个数据集上进行了广泛实验，证明了使用梯度归一化训练的 GAN 模型在 Frechet Inception Distance 和 Inception Score 方面优于现有方法。

    Sep, 2021

  • 生成对抗网络的一致性正则化

    本文提出了一种基于一致性正则化的简单、有效的 GAN 训练稳定器，通过在 GAN 鉴别器中引入数据扩充并惩罚鉴别器对这些扩充的敏感度，以在不增加显着计算开销的情况下，为无条件和有条件图像生成提供最佳结果。

    Oct, 2019

  • 关于具有谱控制的 GAN 的计算和泛化

    通过引入新的重新参数化方法和对权重矩阵的光谱进行控制，使生成对抗网络在图像生成方面取得了更好的表现。

    Dec, 2018

  • 对抗生成网络中的模式崩溃问题进行光谱正则化

    本论文提出了一种新的有效方法 —— 谱规则化（SR-GANs）来解决生成对抗网络（GANs）中的模式崩溃问题，并通过理论分析和大量实验结果展示了 SR-GANs 的有效性与优越性。

    Aug, 2019

  • GAN 中正则化和归一化的系统调查

    本文系统描述了 GAN 训练的不同的视角和正则化与归一化的不同目标，提出了更细致的分类法，并比较了现有的主流方法在不同数据集上的表现，同时探究了这些正则化与归一化方法在最新 GAN 中的应用以及未来的研究方向。

    Aug, 2020

  • 通过正则化稳定生成对抗网络的训练

    通过提出一种新的正则化方法，我们克服了 GAN 模型分布和数据分布之间维度不匹配的局限性，并证明了该正则化方法在多种常见图像生成任务中的有效性。

    May, 2017

  • 基于稀疏约束的生成对抗网络在视网膜 OCT 图像异常检测中的应用

    该论文提出了使用 Sparsity-constrained Generative Adversarial Network 的异常检测框架进行疾病筛查，该框架在只有健康数据的情况下进行监督学习，并通过稀疏性正则化网络进行限制。实验表明，该方法在疾病筛查方面优于现有的方法。

    Nov, 2019

  • 通过谱归一化来实现可推广性对抗性训练

    本研究旨在通过使用谱规范化方法，为深度神经网络在对抗性环境下的训练提供一种有效的正则化策略，以解决其在输入微小的对抗性扰动下缺乏鲁棒性的问题。同时，我们将边界损失延伸到对抗性环境，并限制了多个梯度攻击方案下深度神经网络的泛化误差。

    Nov, 2018