BriefGPT.xyz
Ask
alpha
关键词
contextually aware thresholding for sparsity
搜索结果 - 1
CATS:大型语言模型中的上下文感知稀疏阈值
基于 Contextually Aware Thresholding for Sparsity (CATS) 的新框架用于稀疏化大型语言模型的激活并降低推理成本,在不需要微调的情况下,CATS-based 模型可以在 50% 的激活稀疏程度
→
PDF
3 months ago
Prev
Next