Oct, 2023

模型压缩的参数共享之辩

TL;DR通过对随机参数共享(RPS)方法、剪枝技术和构建更小模型的记忆和准确度之间的权衡进行综合评估,我们的研究结果表明,RPS 相比较于更小模型和各种剪枝策略,如 MAG、SNIP、SYNFLOW 和 GRASP,在整个压缩范围内始终表现出更优的性能,特别是在更高压缩情况下。我们理论上证明了 RPS 在线性模型的记忆效率表示方面优于剪枝技术,从而呼吁向基于 RPS 的模型范式转变。