DAQ: 深度图像超分辨率网络通道分布感知量化
量化是减少图像超分辨率(SR)网络高计算复杂度的一种有前途的方法,然而,与图像分类等高级任务相比,低位量化会导致 SR 网络的严重准确性损失。本文提出了一种新的量化感知训练框架 ODM,该框架有效地解决了 SR 网络中的分布不匹配问题,并且不需要动态自适应。该算法通过直接在训练过程中正则化特征的方差来减少不匹配,同时还引入了分布偏移以进一步减小分布不匹配问题。实验结果表明,ODM 在减少分布不匹配问题方面比现有的 SR 量化方法表现更好,计算开销也更少,这表明减小分布不匹配问题的重要性。
Jul, 2023
该论文介绍了一种名为 DFSQ 的后训练量化方法,以优化超分辨率网络,通过对激活进行通道归一化并应用分布灵活的子集量化(SQ)策略来缩短量化点的选择时间,并提出了一种快速的 K-means 聚类量化点选择策略。DFSQ 在保留各种超分辨率模型的性能的同时,大大放宽了通用集合大小的时间成本约束。
May, 2023
该论文介绍了一种统一的框架来解决网络量化问题,通过引入一种新型的距离感知量化器 (DAQ), 该方法既解决了梯度匹配问题,也解决了量化差异问题,有效提高了各种位宽下的网络性能。
Aug, 2021
本文提出一种新型动态压缩方法 (CADyQ) 来优化图像超分辨率神经网络中由于量化引起的计算过于复杂的问题,通过在根据输入图像局部区域和图层进行自适应位宽和量化级别分配的可训练比特选择器模块中引入量化敏感性评估,以实现高平均位减少和更小的精度损失。
Jul, 2022
该论文提出了一种神经网络架构搜索方法 —— 神经通道扩展,该方法可以适应不同层对于量化误差的敏感度,并在满足硬件约束的情况下,有选择性地扩展量化敏感的层的通道数,从而实现在 CIFAR10 和 ImageNet 数据集上的 2 位量化最佳精度,并在较小的 FLOPs 和参数大小下取得了迄今为止最高的 ResNet50 Top-1 / Top-5 准确率。
Dec, 2022
提出了一种数据自由且参数高效的优化方法 EfficientDM,它通过引入量化感知的低秩适配器 QALoRA 来实现 QAT 级别的性能与 PTQ 的效率相似,从而优化低位扩散模型的性能,并且在时间和数据效率方面显著超过之前基于 PTQ 的扩散模型。
Oct, 2023
本研究提出了一种基于变量量化的控制器,它能动态分配显著通道和微不足道通道的比特率,同时我们提出了一种高斯混合模型量化器,并通过实验证明了我们的方法能够更好地重构图像并取得更好的性能。
Jul, 2020
针对模型量化与 SR 网络训练中的两个困难,本文提出了一种全量化图像超分辨率框架(FQSR)来同时优化效率和精度,并在多个主流 SR 构架上应用,实验表明与全精度 SR 方法相比,FQSR 具有相同的性能和较低的计算成本。
Nov, 2020
优化的分布对齐方法可用于增强扩散模型的后训练量化,从而解决现有方法中存在的分布不匹配问题,提高在噪声估计任务中的性能,并在低位精度情况下超过完整精度模型的性能。
Jan, 2024
本文提出了一种全新的可完全微分的非均匀量化器,在轻量级神经网络(如 MobileNetV1,MobileNetV2 和 ShuffleNetV2)上取得了最优的准确性 - 复杂度平衡,并成功地解决了将神经网络部署到资源受限设备上的问题。
Jul, 2020