Mar, 2023

利用理论视角解决后训练量化中的振荡问题

TL;DR本文通过理论和实验分析,提出了一种基于模块容量的PTQ无振荡量化框架,成功地解决了振荡问题,并在ResNet-50和MobileNetV2等神经网络上表现良好。