Oct, 2023
通过梯度多样性最大化解决联邦优化的混合异质性问题
Tackling Hybrid Heterogeneity on Federated Optimization via Gradient Diversity Maximization
Dun Zeng, Zenglin Xu, Yu Pan, Qifan Wang, Xiaoying Tang
TL;DR研究了混合异构性如何影响联邦优化,通过调查服务器端优化表明,自适应地最大化梯度多样性在服务器更新方向上可以帮助缓解混合异构性的潜在负面影响,引入了具有理论保证的新型基于梯度的优化器 FedAWARE,通过在异构联邦设置中进行大量实验表明,我们的提议优化器可以显著提升不同程度的混合异构性下联邦学习的性能。