Apr, 2023

无噪音异构客户端的联邦学习谨慎学习

PDF
TL;DR本篇论文提出了一种名为 FedCNI 的方法，通过使用噪声鲁棒局部求解器和强健的全局聚合器，在 Federated learning 的小规模本地数据集中解决标签噪声和类别不平衡带来的挑战，并在混合异构 FL 场景中实现了比现有技术更好的性能。
federated learninglabel noiseclass imbalancenoise-resilientglobal aggregator
发现论文，激发创造
  • 联邦噪声客户端学习

    本文通过研究噪声客户端带来的问题，并量化了其对不同层学习的影响，提出了一种名为 Fed-NCL 的框架来进行鲁棒性联邦学习，并通过鲁棒的层级聚合和标签修正来解决由噪声客户端引起的数据异质性问题，实验结果表明，该算法提高了带有噪声客户端的各种最新系统的性能。

    Jun, 2021

  • FedCorr: 多阶段联合学习进行标签噪音校正

    本文提出了一种名为 FedCorr 的多阶段框架，用于处理具有异构标签噪声的联邦学习，它动态识别嘈杂的客户端，基于每个样本的损失来纠正客户端中的错误标签，并增加了基于估计的本地噪声级别的自适应局部近端正则化项来应对数据异构性并提高训练稳定性。经过实验验证，它在多个噪声级别下表现出鲁棒性，大大优于现有的最新方法。

    Apr, 2022

  • 带有噪声标签的鲁棒联邦学习

    提出了一种新的联邦学习方案，其中服务器与本地模型合作，通过交换类别的中心来保持一致的决策边界，实现了在网络中使用带有给定噪声的标签的一致决策边界。同时，还提出了选择有自信的样本来更新模型以及全局引导的伪标签方法来更新不自信的样本标签。在嘈杂的 CIFAR-10 数据集和 Clothing1M 数据集上的实验证明，该方法在使用有噪声的标签的联邦学习中非常有效。

    Dec, 2020

  • FedNoRo: 解决类别不平衡和标签噪声异质性的噪声鲁棒联邦学习

    本研究提出了一种名为 FedNoRo 的框架，用于应对医疗场景下的分类不平衡和标签噪声异质性问题，其中第一阶段使用高斯混合模型进行噪声客户端识别，第二阶段结合知识蒸馏和距离感知聚合函数用于噪声鲁棒联邦模型更新，实验结果表明 FedNoRo 优于现有研究在应对实际场景中的类不平衡和标签噪声的能力。

    May, 2023

  • 当联合学习遇到噪声标签时，重审早期学习正则化

    FLR 是一种创新策略，通过生成新的伪标签并将本地和全局模型的预测相结合，有效地应对联邦学习中的标签噪声问题，提高全局模型在不同设置下的准确性并防止记忆嘈杂的标签，从而改善在标签准确性有误的 FL 环境中的泛化能力。

    Feb, 2024

  • 通过本地自我正则化实现对抗噪声标签的联邦学习

    本文针对联邦学习中标签噪声频繁存在的问题提出一种本地自我正则化的方法，通过模型蒸馏有效地规范本地训练过程，并且可以在各种噪声水平下实现显著的噪声抵抗力，并在 Clothing1M 真实数据集上取得卓越的表现。

    Aug, 2022

  • 带噪标签的高效鲁棒联邦学习通信优化

    本文研究基于联邦学习的标签噪声问题，并提出了一种基于学习的重新加权方法来减轻该问题的影响。同时，本文还提出了一种名为 Comm-FedBiO 的方法来解决通信效率低的 Federated Bilevel Optimization 问题，并在多个真实世界数据集上验证了其表现优于其他方法。

    Jun, 2022

  • 量化标签噪声对联邦学习的影响

    本文针对联邦学习中数据标签噪声的影响，在 MNIST 和 CIFAR-10 数据集上进行了实验和理论分析，发现标签噪声会导致全局模型的准确度线性下降、训练收敛速度变慢且容易过拟合。

    Nov, 2022

  • 异构数据感知联邦学习

    本研究提出一种新方法来解决联邦学习中的问题，并在本文所述的公开基准数据集（如 Femnist）以及自己收集的数据集（即流量分类）上验证了该方法的有效性，结果表明这种方法在极端情况下具有显著的优势。

    Nov, 2020

  • 具有实例相关噪声标签的联邦学习

    该研究讨论了在联邦学习中处理有噪标签的困难以及实例相关噪声的更具挑战性问题，提出了一种名为 FedBeat 的新算法，通过建立全局一致的分类器来解决这一问题，并且在实验中证明了该方法明显优于现有的其他方法。

    Dec, 2023