关键词pruning neural networks
搜索结果 - 4
- 利用合作博弈理论修剪神经网络
使用合作博弈理论的解决概念来解决修剪神经网络的问题。引入了一种名为博弈理论辅助修剪(GTAP)的方法,通过游戏论解法根据神经网络中神经元对预测准确性的联合影响估计来减小网络的规模同时保持其预测准确性。经过实证评估,该方法在参数数量和模型准确 - 初始化剪枝:基于草图视角
研究了在线性设置中用于剪枝神经网络的 lottery ticket hypothesis (LTH),发现找到一个稀疏的 mask 等价于为高效矩阵乘法引入的 sketching 问题,并以此作为工具来分析 LTH 问题并提出通用改进算法。
- ICML强化学习剪枝深度神经网络
本文提出了 PuRL,一种基于深度强化学习(RL)的神经网络剪枝算法,通过在每个剪枝步骤上提供奖励,可以在短时间内达到与现有最先进方法相当的稀疏性和准确性。 PuRL 在 ResNet-50 模型上实现了超过 80% 的稀疏性,并在 Ima - ICLR多样性网络:利用行列式点过程进行神经网络压缩
本文介绍了一种名为 Divnet 的灵活技术,用于学习具有不同神经元的网络,并通过确定性点过程(DPP)和神经元融合的方法来捕获神经元的多样性和实现网络架构的自动优化和缩小,该方法针对剪枝神经网络问题显示优越性。