联邦领域泛化算法基准测试
本文介绍了机器学习发展的过程及其在领域自适应和领域泛化方面的应用,重点介绍了联邦域泛化的概念和相关算法,分类为联邦域对齐、数据处理、学习策略和聚合优化,并提供了常用的数据集、应用、评估和基准,这些研究对解决在不同领域和分布数据上广泛存在的泛化问题具有重要意义。
Jun, 2023
提出了 FedADG 方法,利用联邦对抗学习来实现域泛化,通过将每个分布与参考分布匹配,逐个类别进行对齐来细粒度地对齐分布,学习到的特征表示可以很好地泛化到未见过的域。
Nov, 2021
提出了一种创新的基于超网络的联邦融合算法 hFedF,用于解决联邦领域泛化中个性化和泛化之间的权衡问题,并在多个案例中,在联邦领域泛化的三个常用数据集上超越强基准性能。
Feb, 2024
本文针对联邦学习中算法稳定性的概念,研究了 FedAvg、SCAFFOLD 和 FedProx 在凸性和非凸性损失函数下的通用性能,并探讨了客户端数据的异质性和算法收敛行为对模型通用性能的影响。
Jun, 2023
通过减少客户端之间的异质性,本研究提出了一种传递知识的方法,利用客户端专用生成器为每个客户端生成样本,以减少与其他客户端模型的冲突,从而构建出具有良好泛化能力的全局模型。
Aug, 2023
本文提出了一种叫做 FedAlign 的基于局部学习广泛性而非接近约束的数据异构性联邦学习解决方案,其可在不引入大量计算和内存开销的情况下实现与最先进的 FL 方法相当的精度。
Nov, 2021
本研究探索了医疗数据领域中联邦学习的数学形式化和异质性分类,重点检验了最流行的联邦学习算法在处理基于数量、特征和标签分布的异质性方面的能力,并基于这些挑战对七种常见的联邦学习算法进行了性能评估。研究目标是通过一组由不同的联邦医院数据集收集的表格性临床报告预测中风复发的风险,讨论了这种场景中经常遇到的数据异质性及其对联邦学习性能的影响。
Apr, 2024
Cluster-driven Graph Federated Learning (FedCG) proposes a novel method for learning a central model in privacy-constrained scenarios, overcoming statistical heterogeneity by identifying domains via FL-compliant clustering, instantiating domain-specific modules, connecting them through Graph Convolutional Networks (GCNs), and learning to cluster unsupervised via teacher-student classifier-training iterations to achieve state-of-the-art results on multiple Federated Learning benchmarks.
Apr, 2021
本研究提出一种新方法来解决联邦学习中的问题,并在本文所述的公开基准数据集(如 Femnist)以及自己收集的数据集(即流量分类)上验证了该方法的有效性,结果表明这种方法在极端情况下具有显著的优势。
Nov, 2020
机器学习的未来在于边缘计算,用于数据收集和训练,联邦学习是实现这一目标的一种方法。本文提出了一种新的聚合框架,用于解决联邦优化中的计算异构性问题,包括异构数据和本地更新,并从理论和实验的角度进行了广泛的分析。
Jul, 2023