该研究介绍了一种基于后训练的、使用合成数据进行零样本量化的方法，并提出了一种名为 “Genie” 的框架，用于生成适用于量化的数据，通过将它们组合，可以在不使用实际数据集的情况下获取独特的最先进的零样本量化方法。

Dec, 2022

本文提出了一个零样本敌对量化（ZAQ）框架，利用两级子空间分别描述数据分布的不同特征，通过生成对抗网络驱动生成器合成出优化量化模型的多样性数据示例，实现对全精度模型到其量化模型的有效差异估计和知识转移。在三个基本的视觉任务上进行了广泛实验，证实了 ZAQ 在零样本量化方面的卓越性，并验证了其主要组成部分的有效性。

Mar, 2021

本文提出了一种名为 ZeroQ 的新型零 - shot 量化框架，用于量化神经网络而无需访问原始数据，ZeroQ 通过优化一个与网络不同层的批量归一化统计数据相匹配的 Distilled Dataset 来实现。我们在不同的模型上进行了广泛测试，证明 ZeroQ 可以实现比 DFQ 方法更高的精度，具有极低的计算开销。

Jan, 2020

本研究探讨使用生成对抗网络合成数据作为用于量化方法校准的真实数据代替品，并比较使用 StyleGAN2-ADA 和预训练的 DiStyleGAN 生成的数据与真实数据和基于分形图像的替代数据生成方法量化的模型性能。结果表明，本方法具有潜力，其所选的模型精度下降百分比不到 0.6％，在 MobileNetV2 上实现了最佳性能（0.05％）。

May, 2023

本文提出了一种简单而有效的方法，叫做生成式低比特数据无关量化 (GDFQ)，通过使用预训练模型中的分类边界知识和分布信息，利用知识匹配生成器生成有意义的虚假数据，从而消除数据依赖负担，来量化模型。在三个数据集上的广泛实验证明了本方法的有效性，并且在 4 位量化上的精确性要比现有的数据无关量化方法高得多。

Mar, 2020

本文提出了一种无需数据的对抗知识蒸馏，通过合成数据来实现数据自由的网络量化，包括多个生成器和多个学生的多样化对抗样本，实现了 (wide) residual networks 和 MobileNet 在 SVHN、CIFAR-10、CIFAR-100 和 Tiny-ImageNet 数据集上最先进的数据自由模型压缩和量化效果。

May, 2020

本文研究了如何在仿射神经网络中量化生成对抗神经网络并提出了一种基于 EM 算法的 QGAN 方法方法，同时还提出了一种多精度算法，可帮助找到量化 GAN 模型的最佳位数以及相应的结果质量。实验结果表明，QGAN 可将 GAN 量化为 1/2 比特表示，结果质量与原始模型相当。

Jan, 2019

该研究提出使用生成对抗网络（GAN）来 “合成” 零样本类别的 CNN（卷积神经网络）特征，从而应对通用零样本学习任务中已有的数据不平衡问题。实验结果表明，该方法在多个数据集上的表现均显著优于现有方法。

Dec, 2017

本研究提出 IntraQ 方法来解决现有方法在合成图像中无法保留真实数据类内异质性的问题，通过本方法在使用 4 位量化的 MobileNetV1 上，可在 ImageNet 数据集上实现比已有先进方法更高的准确性。

Nov, 2021

我们提出了一种新颖的零射频锐化感知量化（ZSAQ）框架，用于各种预训练语言模型的零射频量化，并理论证明了 SAM-SGA 优化算法的收敛速度以及该结果适用于其他非凸型极小 - 极大优化框架。通过在 11 个任务上进行大量实验证明，我们的方法在鉴别性和生成性预训练语言模型上都带来了一致且显著的性能提升，即最高可达 + 6.98 的平均得分，并且在实践中验证了我们的方法能够有效改善模型的泛化能力。

Oct, 2023