BriefGPT.xyz
Ask
alpha
关键词
low-bit deep learning models
搜索结果 - 1
自监督量化感知知识蒸馏
该论文提出了一种新颖的自监督量化感知知识蒸馏 (SQAKD) 框架,通过将量化感知训练与知识蒸馏相结合,同时最小化全精度模型与低比特模型之间的 KL-Loss 和量化的离散化误差,从而有效克服了现有方法需要繁琐的超参数调节、标签数据需求和复
→
PDF
4 months ago
Prev
Next