关键词compression strategies
搜索结果 - 4
- 自适应分特征压缩的通信高效分担学习
本论文提出了一种新颖的通信高效的分离学习(Split Learning)框架,名为 SplitFC,它通过减少 SL 训练过程中传输中间特征向量和梯度向量所需的通信开销。SplitFC 使用两种压缩策略:自适应特征丢弃和自适应特征量化,其实 - 模型压缩对面部表情识别公平性的影响
该研究研究了模型压缩技术对面部表情识别模型大小、准确性和公平性的影响,结果表明针对性的技术对模型大小有明显减小效果,对准确性几乎没有影响;对于不同的数据集,受敏感属性的影响不同,作者们对结果进行了分析并讨论了发现的潜在原因。
- MM现代误差反馈的实用算法扩展 - EF21 升级版
本文提出了 6 种有效的实用扩展 EF21,并分别分析它们的强收敛理论,这些扩展可以与 EF 一起使用,采用压缩策略和带有 Markov 压缩器的新的错误反馈机制可以更好地优化分布式梯度下降算法。
- NIPS深度网络压缩感知训练
本文提出在训练过程中明确考虑模型压缩,通过引入低秩正则化项使每层参数矩阵的秩尽量小,实现更有效的模型压缩。实验证明,这一方法比现有的压缩技术更加高效。