BriefGPT.xyz
Ask
alpha
关键词
on-device self-supervised collaborative fine-tuning
搜索结果 - 1
个性化协作微调用于设备上的大型语言模型
在设备上进行自我监督的合作微调大规模语言模型的研究,使用三种不同的信任加权梯度集成方案,并与 FedAvg 和本地微调方法相比,使用少量的数据交换和 LoRA 权重更新,显示出在本地数据分布不均的现实场景中处理异质性和稀缺性方面的有效性。
PDF
3 months ago
Prev
Next