BriefGPT.xyz
大模型
Ask
alpha
关键词
large and sparse models
搜索结果 - 1
突破确定性障碍:随机修剪掩码的生成和选择
在同等模型大小约束下,大而稀疏的模型普遍比小而密集的模型具有更高的准确性。因此,本文提出了一种模型修剪策略,首先以设计的随机方式生成多个修剪掩码,然后通过一个有效的掩码选择规则从候选掩码组中选择最优掩码。为了进一步提高效率,引入了一种早期掩
→
PDF
8 months ago
Prev
Next