May, 2023

基于一致性优化的集群联邦学习中的群体共识达成机制

PDF
TL;DR本论文介绍了一个解决群集联合学习问题的新方法，该方法基于共识优化 (CBO) 中的思想，使用相互作用的粒子系统进行全局优化，经过数学推导得到了该模型的收敛性证明，并通过实验结果证实了 FedCBO 算法的有效性。
federated learningclustered federated learningconsensus-based optimizationparticle systemglobal optimization
发现论文，激发创造
  • 基于自适应 OPTICS 聚类的强化联邦学习方法

    本文提出一种基于自适应 OPTICS 聚类的增强型联邦聚合方法，将聚类环境视为马尔可夫决策过程，并模拟参数搜索方向的调整过程，以找到最佳的聚类参数，从而实现更好的联邦聚合效果。

    Jun, 2023

  • 可证明的个性化和强健联邦学习

    本文提出采用简单的基于阈值的聚类算法以及本地客户端梯度的方法来解决联邦学习个性化问题，在保证最优收敛保障的同时，算法具有健壮性。

    Jun, 2023

  • 异构环境下的健壮联邦学习

    在 Federated Learning 中，我们提出了一个统计模型来解决异构数据分布和拜占庭机器等统计和计算挑战。在此基础上，我们提出了一个优化算法来解决该问题，并获得了比非拜占庭鲁棒算法更好的估计误差。

    Jun, 2019

  • 聚类联邦学习：在隐私约束下的模型无关分布式多任务优化

    本研究提出了一种基于聚类的联邦多任务学习框架（Clustered Federated Learning），可在保持数据隐私性的同时，更好地解决联邦学习中本地数据分布不同的问题，并在深度卷积和循环神经网络上进行实验证明了其有效性。

    Oct, 2019

  • 快速收敛联邦学习

    本文提出了一种快速收敛的联合学习算法 FOLB，通过智能抽样优化模型训练速度，处理设备的通信和计算异质性，实验结果改善了训练模型的准确率、收敛速度和稳定性。

    Jul, 2020

  • 聚类 FedStack：具有贝叶斯信息准则的中间全球模型

    基于已发布的堆叠联邦学习（FedStack）框架，本研究提出了一种新颖的聚类联邦堆叠（Clustered FedStack）框架，通过采用三种聚类机制，并结合贝叶斯信息准则（BIC）和循环学习率方法，能有效克服联邦学习中的数据分布不同和标签不平衡的问题，优于基准模型的性能。

    Sep, 2023

  • Orchestra：基于全局一致聚类的无监督联邦学习

    本文提出一种基于 Orchestra 算法的无监督联邦学习技术，通过在联邦结构中进行分层聚类任务并强制执行全局一致的客户端数据划分，实现了对统计 / 系统异质性、可扩展性和通信效率的稳健性，保证了良好的泛化性能，并在一系列条件下优于其他技术。

    May, 2022

  • 异质数据上的一致性机制联邦学习：收敛性的新视角

    在本文中，我们提出了一种名为 FedCOME 的共识机制，通过在服务器端对客户端的梯度进行微调，保证了每轮训练后每个客户端的风险减少；我们还设计了一种新的客户端采样策略，将共识机制推广到部分参与的联邦学习场景，有效地减少了未被选中的客户端的风险。通过在四个基准数据集上进行广泛实验证明了 FedCOME 在效果、效率和公平性方面优于其他最先进的方法。

    Nov, 2023

  • 联邦优化指南

    本论文旨在提供针对联邦优化算法的具体指导和实用实现，重点关注进行有效模拟以推断实际效果，并鼓励研究人员设计适用于各种实际应用的联邦学习算法。

    Jul, 2021

  • 随机聚合联邦学习

    本文提出了一种针对非独立同分布问题的新型聚类联邦学习方法 StoCFL，它实现了一种灵活的 CFL 框架，支持不同比例的客户端参与和新客户端加入，而且在保持模型性能的同时获得了良好的聚类结果。

    Mar, 2023