GAN 瘦身：通过统一的优化框架实现全能的 GAN 压缩

ECCVAug, 2020

GAN 瘦身：通过统一的优化框架实现全能的 GAN 压缩

GAN Slimming: All-in-One GAN Compression by A Unified Optimization Framework

Haotao Wang, Shupeng Gui, Haichuan Yang, Ji Liu, Zhangyang Wang

TL;DR该研究提出了一个名为 GAN Slimming 的统一优化框架，将多种压缩方法与 GAN 最小二乘目标组合在一起，相比现有选项在压缩图像转换 GAN 方面表现优异，其中包括模型蒸馏，通道修剪和量化等几种主流压缩技术。

Abstract

generative adversarial networks (GANs) have gained increasing popularity in various computer vision applications, and recently start to be deployed to resource-constrained mobile devices. Similar to other deep models, state-of-the-art GANs suffer from high parameter complexities. That

generative adversarial networks gan compression compression techniques model distillation channel pruning

发现论文，激发创造

自监督 GAN 压缩

通过自我监督压缩技术，我们展示标准的模型压缩技术 (权重修剪) 不能应用于生成对抗网络 (GANs)，并且展示我们的框架在高度稀疏的情况下提供了很好的性能、易于应用于新任务和模型，并且实现了在不同压缩粒度下的有意义比较。

Jul, 2020

AutoGAN-Distiller：搜索压缩生成对抗网络

本文提出了 AutoGAN-Distiller (AGD) 框架，通过将 AutoML 方法应用于 GAN 压缩中，实现了对各种 GAN 模型的自动压缩，采用 knowledge distillation 指导压缩，且在压缩后的图像翻译和超分辨率任务中表现出更轻量级但更具竞争力的效果。

Jun, 2020

UGC: 统一生成对抗网络压缩用于高效图像转换

近年来，生成对抗网络在图像到图像翻译中取得了显著进展，然而，这些 GAN 模型的成功依赖于繁重的计算成本和劳动密集型的训练数据。为了兼顾模型效率和标签效率的优点，我们提出了一种新的学习范式，统一生成对抗网络压缩，通过在网络架构搜索和自适应在线半监督蒸馏阶段之间建立半监督驱动的异构互学习方案，来获得一种灵活的、标签高效的和性能优越的模型。

Sep, 2023

内容感知 GAN 压缩

该研究提出了用于无条件 GAN 压缩的一种新方法。该方法结合了通道修剪，知识蒸馏和内容感知，使模型在保持图像质量的同时具有更高的压缩率，可应用于各种图像生成和编辑任务。

Apr, 2021

极限学习图像压缩的生成对抗网络

本研究基于生成对抗网络构建了一个图像压缩系统，其中包括编码器、解码器 / 生成器和多尺度鉴别器，并使用全生成式学习压缩目标。模型可合成存储受限的细节，实现在比之前方法失败且出现严重伪影的比特率下，较视觉上令人满意的结果。此外，如果有原始图像的语义标签映射可用，则本方法可以从标签映射中合成出解码后图像的不重要区域，例如街道和树，并相应地减少存储成本。一个用户研究证实，即使使用两倍以上的比特，低比特率下我们的方法都优于现有技术。

Apr, 2018

知识蒸馏压缩生成对抗网络

本研究提出了使用知识蒸馏技术压缩生成对抗网络 (GANs) 参数的方法，使得在固定参数预算内，压缩后的 GANs 可以产生比标准训练方法更高质量的图像。我们观察到 GANs 的压缩有其定量的极限，并且过度参数化的 GANs 优化问题对交替梯度下降提供了高效的训练，这表明使用我们的方法可以获得高质量的生成模型与较少的参数。

Feb, 2019

CoroNetGAN: 通过超网络控制 GAN 的剪枝

提出了一种利用可微的修剪方法通过超网络压缩 GAN 的方法，实现可控压缩训练，并在多个基准数据集上取得了优异的性能。

Mar, 2024

高保真生成图像压缩

本文研究了如何将生成敌对网络与学习压缩相结合，得到一种最先进的生成有损压缩系统，并在归一化层、生成器和鉴别器架构、训练策略以及感知损失方面进行了探究。与之前的工作不同的是，我们实现了在广泛的比特率范围内视觉上令人满意的重建，并且，我们的方法可以应用于高分辨率图像。我们在定量上使用各种感知指标和用户研究来评估我们的方法，研究表明，即使使用超过 2 倍的比特率，我们的方法也优于以前的方法。

Jun, 2020

可裁剪生成对抗网络

本文提出了一种可以灵活调整生成器宽度以适应不同质量和效率平衡的 slimmable GANs，通过利用多个共享部分参数的判别器对生成器进行训练，并提出了一种逐步原位提纯技术以增加不同宽度之间的一致性，并通过切片条件化 BN 的方式将标签信息纳入不同的宽度中。

Dec, 2020

面向 GAN 压缩的在线多粒度蒸馏

本文提出了一种新颖的在线多粒度蒸馏（OMGD）方案，该方案可用于生成低计算需求的轻量级 GAN，从而实现在资源受限设备上进行实时图像转换，并显示 OMGD 在四个基准数据集上的实验结果。

Aug, 2021