BriefGPT.xyz
大模型
Ask
alpha
关键词
squeezellm
搜索结果 - 1
SqueezeLLM:紧密稀疏量化
通过引入 SqueezeLLM 后训练的量化框架,该框架不仅实现了高达 3 位的无损压缩,还在相同的内存约束下实现了更高的量化性能,可以将羊毛出在羊身上,仿佛神器一般。
PDF
a year ago
Prev
Next