BriefGPT.xyz
大模型
Ask
alpha
关键词
stochastic differentiable quantization
搜索结果 - 1
ICML
SDQ:带混合精度的随机可微量化
本文提出了一种新的随机可微量化(SDQ)方法,利用不同层和模块的优化比特宽度来自动学习混合精度量化策略,并利用熵感知的分 bin 正则化和知识蒸馏对网络进行训练,经过在不同硬件和数据集上广泛的评估,SDQ 在较低的比特宽度下优于所有最先进的
→
PDF
2 years ago
Prev
Next