Dec, 2022
FedTiny:修剪的联邦学习面向专业小型模型
FedTiny: Pruned Federated Learning Towards Specialized Tiny Models
Hong Huang, Lan Zhang, Chaoyue Sun, Ruogu Fang, Xiaoyong Yuan...
TL;DR本文提出一种名为 FedTiny 的分布式修剪框架,通过自适应批量归一化选择模块和轻量级渐进修剪模块,可在有限的计算和存储资源上定制化地修剪神经网络模型,以适应分布式和机密数据的联合学习。实验结果表明,FedTiny 在压缩深度模型的情况下表现出色,并在各项指标上超越了现有基线方法。