BriefGPT.xyz
大模型
Ask
alpha
关键词
sparsity pruning
搜索结果 - 2
LOTUS: 通过稀疏修剪和数据抽奖提高 Transformer 效率
LOTUS 是一种利用数据抽奖选择和稀疏剪枝来加速视觉变换器训练的新方法,通过识别和利用最信息丰富的数据子集并消除冗余模型参数来优化训练过程,通过广泛的实验证明了 LOTUS 在快速收敛和高准确度达到显著降低计算要求方面的有效性,这项工作突
→
PDF
2 months ago
大型语言模型的一次性敏感度感知混合稀疏剪枝
通过基于 Hessian 灵敏度感知的混合稀疏剪枝方法,我们提出了一种剪枝 LLMs 的方法,以至少达到 50% 的稀疏度,而不需要任何重新训练,该方法适应性地分配稀疏度,减少了剪枝引起的错误,同时保持了整体稀疏度水平,并且在稀疏度极高时表
→
PDF
9 months ago
Prev
Next