BriefGPT.xyz
大模型
Ask
alpha
关键词
mixed-precision compensation
搜索结果 - 1
通过混合精度补偿实现无数据量化,无需微调
本文提出了一种数据自由的混合精度补偿方法,通过数学公式对预训练的全精度模型和其逐层混合精度量化模型之间的重构损失进行最小化,无需任何数据和微调过程即可实现超低精度量化模型的更高精度。
PDF
a year ago
Prev
Next