BriefGPT.xyz
大模型
Ask
alpha
关键词
layer-wise pruning
搜索结果 - 3
通过逐层部分模型遗忘实现的训练模型高效知识删除
该文献介绍了一类新的机器遗忘算法,其中包括部分失忆式遗忘和逐层剪枝。通过详细的实验评估,展示了所提出的遗忘方法的有效性,部分失忆式遗忘不仅保持了模型效果,还消除了简短预训练的必要性,而逐层部分更新在标签翻转和基于优化的遗忘技术中显示了较于其
→
PDF
4 months ago
ECoFLaP: 高效细粒度层次裁剪用于视觉 - 语言模型
通过 Efficient Coarse-to-Fine Layer-Wise Pruning 方法,LVLMs 的大规模视觉 - 语言模型能够以两阶段粗细权重修剪的方式进行模型压缩,从而在高稀疏度条件下取得显著性能改进。
PDF
9 months ago
通过分层最优脑外科医生学习剪枝深度神经网络
本文提出了一种基于层次的剪枝方法对深度神经网络进行压缩,通过独立剪枝每个层次的参数可以保证压缩后的网络只需要进行轻量级的重新训练即可恢复预测能力,并在基准数据集上进行了广泛实验以证明其有效性。
PDF
7 years ago
Prev
Next