BriefGPT.xyz
Ask
alpha
关键词
sparsification techniques
搜索结果 - 2
Unifews:用于图神经网络高效稀疏化的统一逐元素稀疏化
通过在个别矩阵元素上考虑统一图传播和权重变换操作,并进行联合边权稀疏化以提高学习效率,Unifews 在逐渐增加稀疏性的情况下适用于不同的架构设计,并在理论上证明了较低的计算负载以及稳定的近似学习目标。通过广泛的实验评估,Unifews 在
→
PDF
4 months ago
不是所有专家都是平等的:用于混合专家大型语言模型的高效专家修剪和跳过
通过引入插拔式专家级稀疏化技术,本文主要针对 MoE LLMs 的部署效率进行了改进,提出了任务无关和任务特定的专家修剪和跳过方法,从而同时减小模型大小、增加推理速度并保持满意的性能。
PDF
4 months ago
Prev
Next