BriefGPT.xyz
大模型
Ask
alpha
关键词
int7
搜索结果 - 1
EasyQuant: 通过尺度优化进行后训练量化
本文提出一种名为 EasyQuant (EQ) 的简单有效的后训练量化方法,通过尺度优化来获得类似于基于训练方法的精度。具体地,我们针对卷积输出的所有层交替优化权重和激活的规模,以进一步获取高量化精度。然后,我们将位宽降低到 INT7,同时
→
PDF
4 years ago
Prev
Next