BriefGPT.xyz
Ask
alpha
关键词
gradient diversity
搜索结果 - 3
通过谱正则化实现持续学习
神经网络的塑性缺失意味着在学习过程中网络训练变得更加困难。我们通过改进初始化技术、提出新的正则化策略以及保持梯度多样性来改善持续学习,并证明这些替代技术在不同的监督学习任务和模型结构上能够提高持续学习性能。
PDF
a month ago
通过梯度多样性最大化解决联邦优化的混合异质性问题
研究了混合异构性如何影响联邦优化,通过调查服务器端优化表明,自适应地最大化梯度多样性在服务器更新方向上可以帮助缓解混合异构性的潜在负面影响,引入了具有理论保证的新型基于梯度的优化器 FedAWARE,通过在异构联邦设置中进行大量实验表明,我
→
PDF
9 months ago
GPT-FL: 基于生成式预训练模型的联邦学习
本文提出了一个基于生成式预训练模型辅助联邦学习框架的 GPT-FL 方法,在提高通信效率和客户抽样效率的同时,优化梯度多样性来增强模型收敛速度和提高模型测试准确性。
PDF
a year ago
Prev
Next