IJCAINov, 2020

联邦学习下基于 Fed-Focal Loss 的不平衡数据分类

PDF
TL;DR本文针对分布式学习中面临的类别不平衡问题，提出了一种新的损失函数 Fed-Focal Loss，通过结合可调节的采样框架，实现在 MNIST，FEMNIST，VSN 和 HAR 基准测试中对于多任务学习的优秀表现，并取得了超过 9% 的绝对提升效果。
federated learningfed-focal lossclass imbalancesampling frameworkmulti-task learning
发现论文，激发创造
  • 解决联邦学习中的类别不平衡问题

    本文提出了一种监测模式以及一种新的比率损失函数，用于检测和减轻联邦学习中的类别失衡问题，并展示了其在保护客户隐私的同时在相对效率和精度方面的优越性。

    Aug, 2020

  • 面向医学图像分类的不均衡和聚合数据分布联邦学习

    采用新的真实数据分布，提出一种名为 FedIIC 的隐私保护框架，该框架通过类内对比学习和共享全局样本的类间对比学习进行特征提取器的校准来缓解训练造成的偏差，并使用考虑难度的逻辑调整构造 softmax 交叉熵损失以确保所有类别的平衡决策边界。在公共可用数据集上的实验表明，FedIIC 在处理两种耦合问题的同时，具有更优越的性能。

    Jun, 2022

  • 联邦学习中的类别不平衡调查

    本文针对联邦学习中的数据不平衡问题，介绍了目前研究中针对该问题的进展，包括不需要真实数据的数据不平衡程度评估方法、数据不平衡处理方法及其优缺点、常用的评估指标，以及未来的研究方向。

    Mar, 2023

  • 具有类别不平衡减少的联邦学习

    用于解决联邦学习中数据隐私问题导致的设备端数据无法被中心服务器使用的问题，本文提出了一种基于估计方案的设备选择算法，以最小化类别不平衡来提高联邦学习全局模型的收敛性能。

    Nov, 2020

  • 基于分类器偏移的不平衡类别联邦学习

    本文提出了一种名为 FedShift 的简单有效方法，通过在本地训练阶段添加分类器输出上的漂移来减轻类别不平衡的负面影响，在理论上证明了 FedShift 中的分类器漂移可以使局部最优点一致于全局最优点，并确保算法的收敛，实验表明 FedShift 在准确性和通信效率方面优于各种数据集上的其他最新联邦学习方法。

    Apr, 2023

  • 基于联邦学习方法的数据不平衡对信用风险预测的影响

    信用风险预测对商业银行和其他金融机构在授予贷款和减少潜在损失方面起着关键作用。本研究调查了联邦学习在信用风险评估中的可行性，并展示了数据不平衡对模型性能的影响。通过使用多层感知机 (MLP)、长短期记忆网络 (LSTM) 和极限梯度提升 (XGBoost) 等不同架构，以及三个不同数据集和不同场景下的数据分布配置，我们证明了联邦模型在数据集较小的非主导客户上始终优于本地模型，在高度不平衡的数据场景中平均提高了 17.92% 的模型性能，然而对于数据更多的主导客户，联邦模型可能表现出较低的性能，因此需要针对这类客户提供特殊的激励以鼓励其参与。

    Jan, 2024

  • 联邦学习中的异质性好还是坏：FedVal

    本论文提出了一种名为 FedVal 的新方法，该方法基于服务器端验证方法，使用创新的评分函数来评估客户端更新，并确定本地训练模型之间的最佳聚合平衡，从而提高鲁棒性和公平性，同时维护差分隐私的系统能力。在 CIFAR-10，FEMNIST 和 PUMS ACSIncome 数据集上的广泛实验证明了我们的方法的有效性，实现了最先进的性能。

    Jun, 2023

  • 基于神经网络的新型不平衡和非独立同分布数据的联邦学习系统

    通过提出集中式的、基于神经网络的联邦学习系统，利用边缘计算减少中央服务器的负载，同时在各种数据分布设置中相对于一些现有基准算法取得令人满意的性能。

    Nov, 2023

  • 联邦倾斜标签学习与逻辑融合

    通过在客户端引入额外的私有弱学习器与本地模型组成集成模型，FedBalance 方法能够通过融合两个模型的对数几率来纠正本地模型之间的优化偏差，从而改进本地模型的优化方向，提高少数类别的分类错误处罚并降低多数类别的注意力，从而得到更好的全局模型。

    Nov, 2023

  • 应对联邦学习中标注质量差异

    本文提出了一种针对边缘端云架构的基于联邦学习的计算模型，称为 FOCUS，通过一种信用加权指导的协同调节机制，有效识别具有嘈杂标签的客户端，并减少其对模型性能的影响，从而显着优于现有的 FL 方法。

    Jan, 2020