Mar, 2024

FedAC：一种适应性聚类的异构数据联邦学习框架

PDF
TL;DR在本文中，我们提出了一种自适应的聚类联邦学习框架，名为 FedAC，它通过解耦神经网络并为每个子模块使用不同的聚合方法，有效地将全局知识融合到簇内学习中，同时采用一种经济高效的在线模型相似度度量基于降维技术，以及一个用于改进复杂异构环境中自适应性和可扩展性的簇数微调模块。广泛的实验结果表明，相较于现有方法，FedAC 在不同的非独立同分布设置下，CIFAR-10 和 CIFAR-100 数据集的测试准确率分别提高了约 1.82% 和 12.67%。
clustered federated learningdata heterogeneityadaptive cfl frameworkonline model similarity metricneural networks
发现论文，激发创造
  • FedClust: 通过权重驱动的客户端聚类优化非 IID 数据上的联邦学习

    FedClust 是一种聚类联邦学习方法，利用局部模型权重和客户数据分布之间的相关性将客户分组成簇，并动态地实时适应新加入的客户，实验结果表明 FedClust 在准确性和通信成本方面优于基线方法。

    Mar, 2024

  • 聚类联邦学习：在隐私约束下的模型无关分布式多任务优化

    本研究提出了一种基于聚类的联邦多任务学习框架（Clustered Federated Learning），可在保持数据隐私性的同时，更好地解决联邦学习中本地数据分布不同的问题，并在深度卷积和循环神经网络上进行实验证明了其有效性。

    Oct, 2019

  • 随机聚合联邦学习

    本文提出了一种针对非独立同分布问题的新型聚类联邦学习方法 StoCFL，它实现了一种灵活的 CFL 框架，支持不同比例的客户端参与和新客户端加入，而且在保持模型性能的同时获得了良好的聚类结果。

    Mar, 2023

  • DAG-ACFL: 基于 DAG-DLT 的异步聚类联邦学习

    以基于有向无环图分布式账本技术（DAG-DLT）的异步聚类联邦学习（CFL）框架为基础，提出了一种名为 DAG-ACFL 的异步聚类联邦学习框架，通过组合 DAG-DLT 和聚类 FL，DAG-ACFL 实现了强大的、去中心化的、私密的模型训练。

    Aug, 2023

  • 解决数据异构的无聚合联邦学习

    FedAF 是一种不需要数据聚合的联邦学习算法，通过协作学习来减少数据异质性导致的客户端漂移问题，提高全局模型准确性和收敛速度

    Apr, 2024

  • 实时找到最佳任务分配：面向分簇联邦学习的整体框架

    通过综合研究当前对聚类型联邦学习方法，本文提出了一个四层框架（HCFL），并针对每一层中当前聚类方法面临的挑战提出了一个增强聚类方法 HCFL+，通过广泛的数值评估展示了我们的聚类框架和改进组件的有效性。

    Oct, 2023

  • FedCAda：面向加速和稳定的联邦学习的自适应客户端优化

    FedCAda 是一种创新的联邦客户自适应算法，利用 Adam 算法在客户端调整一阶矩估计 $m$ 和二阶矩估计 $v$ 的修正过程，并在服务器端聚合自适应算法参数，以加快收敛速度和通信效率，同时确保稳定性和性能，该算法在计算机视觉（CV）和自然语言处理（NLP）数据集上的广泛实验表明，它在适应性、收敛性、稳定性和整体性能方面优于现有方法。

    May, 2024

  • 通过多维个性化边缘模型实现更公平和有效的联邦学习

    本文提出了一种个性化的联邦学习（CFL）系统，通过特殊设计的全局模型为每个客户定制个性化模型，采用在线训练的模型搜索辅助器和新型聚合算法，解决 FL 在多个维度上的异质性问题。实验证明，CFL 在 FL 训练和边缘推断方面具有全栈优势，并显著改进了模型准确性（在非异构环境中高达 7.2％，在异构环境中高达 21.8％）、效率和公平性。

    Feb, 2023

  • 精准聚类联邦学习的联合 cINN 聚类

    我们提出了一种名为 FCCA 的联邦 cINN 聚类算法，通过将客户端的私有数据转换为多元高斯分布，学习编码的潜在特征，以达到客户端聚类和改善全局模型性能的目的。实验结果表明，FCCA 在各种模型和数据集上的性能优于其他最先进的集群联邦学习算法，表明我们的方法在提高现实世界中联邦学习任务的效率和准确性方面具有巨大的潜力。

    Sep, 2023

  • 集群化联邦学习的高效框架

    本研究提出了一种针对分布式、分区群集的联合学习的新框架，即聚簇联合学习，同时也提出了迭代联合聚类算法 (IFCA)，分析了其收敛速度及统计误差率上的优越性，并将其运用于神经网络等非凸问题的有效性实验中。

    Jun, 2020