Aug, 2023
跨移动设备进行百亿规模语言模型的联邦微调
Federated Fine-tuning of Billion-Sized Language Models across Mobile Devices
Mengwei Xu, Yaozong Wu, Dongqi Cai, Xiang Li, Shangguang Wang
TL;DRFwdLLM 是一种创新的 FL 协议,通过无需执行误差反向传播训练方法的方式,在手机设备上实现了更好的内存效率和时间效率,具有比传统方法更快的收敛速度和更小的内存占用。