BriefGPT.xyz
大模型
Ask
alpha
关键词
edkm
搜索结果 - 1
eDKM:一种高效准确的大型语言模型训练时权重聚类
提出了一种内存高效的 Differentiable KMeans Clustering 实现,eDKM,通过新技术降低 DKM 的内存占用量,成功将预训练的 LLaMA 7B 模型从 12.6 GB 压缩到 2.5 GB,并在广泛的 LLM
→
PDF
10 months ago
Prev
Next