compute-aware scoring | BriefGPT

关键词compute-aware scoring

搜索结果 - 1

训练前的单次结构化剪枝
使用结构化剪枝在训练之前使速度提高 2 倍，在推理中提高 3 倍的方法。通过删除整个通道和隐藏单元的方法来加快训练和推理，使用基于感受度每 FLOP 的计算感知得分机制来实现裁剪。
PDF4 years ago