在联邦式长尾学习中，将局部真实数据与全局梯度原型集成以进行分类器再平衡

Jan, 2023

在联邦式长尾学习中，将局部真实数据与全局梯度原型集成以进行分类器再平衡

Integrating Local Real Data with Global Gradient Prototypes for Classifier Re-Balancing in Federated Long-Tailed Learning

PDF

Wenkai Yang, Deli Chen, Hao Zhou, Fandong Meng, Jie Zhou...

TL;DR本篇研究对去中心化的 Federated Learning 中，数据长尾分布导致全局模型严重偏向于头部类别而出现的问题进行了探究和解决，提出了一种局部平衡数据集的方法，并在训练时引入了额外的分类器，同时优化分类器的平衡和全局数据分布的建模，实验证明本研究的方法在各种情况下都表现出了优异的效果。

Abstract

federated learning (FL) has become a popular distributed learning paradigm that involves multiple clients training a global model collaboratively in a data privacy-preserving manner. However, the data samples usually follow a long-tailed distribution in the real world, and FL on the de

federated learning decoupled training long-tailed data instance-balanced training global gradient prototypes

发现论文，激发创造

走向联邦长尾学习

本文探讨如何在隐私保护联邦学习框架下，同时解决学习长尾数据分布及数据隐私保护问题，提出了三种不同的长尾数据分布情景，并强调了相应的挑战。初步结果表明，解决联邦长尾学习任务需要更多的工作和研究。

Jun, 2022

FedLoGe: 长尾数据下的联合局部与通用联邦学习

本研究提出了一种名为 FedLoGe 的方法，通过在神经坍塌框架中集成表示学习和分类器对齐，提高了本地和通用模型的性能，从而加强了分布式长尾学习中全局模型和本地模型的表现。

Jan, 2024

通过联邦特征重训练进行异构和长尾数据的联邦学习

本文提出了一种新型的隐私保护联邦学习方法，通过分类器重新训练实现异构和长尾数据的隐私保护联邦特征，可在不泄露本地数据或类分布信息的情况下产生与真实数据上重新训练后的分类器相当的性能。实验结果表明，该方法是一种有效的解决方案，可在异构和长尾数据下获得有希望的联合学习模型。

Apr, 2022

Fed-GraB: 基于自适应梯度均衡器的联邦长尾学习

此研究论文介绍了一种名为 Fed-GraB 的方法，通过在全局范围内聚合本地异构数据集并调整本地学习策略，基于全局长尾分布的反馈，实现了在保持多数类性能的同时，在少数类上取得更好性能的全局模型，并在 CIFAR-10-LT、CIFAR-100-LT、ImageNet-LT 和 iNaturalist 等数据集上取得了最先进的性能。

Oct, 2023

基于特征统计的长尾和非独立同分布数据的解耦联邦学习

本文探讨了尾部类别在几个客户端上稀疏分布的被忽视的情景，提出了一个基于功能统计的两阶段解耦合联邦学习框架（DFL-FS），用于加速收敛并提高特征学习能力，实验结果表明该方法在准确率和收敛速度上优于现有方法。

Mar, 2024

面向医学图像分类的不均衡和聚合数据分布联邦学习

采用新的真实数据分布，提出一种名为 FedIIC 的隐私保护框架，该框架通过类内对比学习和共享全局样本的类间对比学习进行特征提取器的校准来缓解训练造成的偏差，并使用考虑难度的逻辑调整构造 softmax 交叉熵损失以确保所有类别的平衡决策边界。在公共可用数据集上的实验表明，FedIIC 在处理两种耦合问题的同时，具有更优越的性能。

Jun, 2022

通过全局正则化个性化实现解决联邦学习中客户端不平衡问题

本文提出了一种名为 Global-Regularized Personalization （GRP-FED）的方法，利用全局和本地模型各自的优势来有效处理分散客户端的长尾数据不均衡问题，实验结果表明，GRP-FED 在 MIT-BIH 和 CIFAR-10 数据集上表现出更好的性能和更好地解决了客户端不平衡问题。

Aug, 2021

针对长尾数据的联邦学习安全聚合

本文针对联邦学习中数据不均衡和拜占庭节点攻击的问题，提出了一种新的两层聚合方法和智囊团概念，用于拒绝恶意模型和选出包含尾部类别数据信息的有价值模型进行全局聚合，初步实验证明智囊团对于全局聚合进行有效的模型选择。

Jul, 2023

具有类别不平衡减少的联邦学习

用于解决联邦学习中数据隐私问题导致的设备端数据无法被中心服务器使用的问题，本文提出了一种基于估计方案的设备选择算法，以最小化类别不平衡来提高联邦学习全局模型的收敛性能。

Nov, 2020

异构数据下的联邦虚拟学习与本地全局蒸馏

本文提出了一种新的联邦虚拟学习方法，名为 Federated Virtual Learning on Heterogeneous Data with Local-Global Distillation (FEDLGD)，通过使用本地和全局蒸馏创建一个更小的合成数据集，以训练联邦学习，并解决了数据异构性带来的问题。实验表明，该方法在具有非常有限数量的精制虚拟数据的情况下，优于当前领先的异构 FL 算法。

Mar, 2023