本篇论文提出了一种名为 FedCNI 的方法,通过使用噪声鲁棒局部求解器和强健的全局聚合器,在 Federated learning 的小规模本地数据集中解决标签噪声和类别不平衡带来的挑战,并在混合异构 FL 场景中实现了比现有技术更好的性能。
Apr, 2023
本文通过研究噪声客户端带来的问题,并量化了其对不同层学习的影响,提出了一种名为 Fed-NCL 的框架来进行鲁棒性联邦学习,并通过鲁棒的层级聚合和标签修正来解决由噪声客户端引起的数据异质性问题,实验结果表明,该算法提高了带有噪声客户端的各种最新系统的性能。
Jun, 2021
本文研究基于联邦学习的标签噪声问题,并提出了一种基于学习的重新加权方法来减轻该问题的影响。同时,本文还提出了一种名为 Comm-FedBiO 的方法来解决通信效率低的 Federated Bilevel Optimization 问题,并在多个真实世界数据集上验证了其表现优于其他方法。
Jun, 2022
本研究提出了一种名为 FedNoRo 的框架,用于应对医疗场景下的分类不平衡和标签噪声异质性问题,其中第一阶段使用高斯混合模型进行噪声客户端识别,第二阶段结合知识蒸馏和距离感知聚合函数用于噪声鲁棒联邦模型更新,实验结果表明 FedNoRo 优于现有研究在应对实际场景中的类不平衡和标签噪声的能力。
May, 2023
本文针对联邦学习中数据标签噪声的影响,在 MNIST 和 CIFAR-10 数据集上进行了实验和理论分析,发现标签噪声会导致全局模型的准确度线性下降、训练收敛速度变慢且容易过拟合。
Nov, 2022
提出了一种新的联邦学习方案,其中服务器与本地模型合作,通过交换类别的中心来保持一致的决策边界,实现了在网络中使用带有给定噪声的标签的一致决策边界。同时,还提出了选择有自信的样本来更新模型以及全局引导的伪标签方法来更新不自信的样本标签。在嘈杂的 CIFAR-10 数据集和 Clothing1M 数据集上的实验证明,该方法在使用有噪声的标签的联邦学习中非常有效。
Dec, 2020
本文探讨了在联邦学习(FL)中使用用户反馈进行标记和降噪以提高 ML 模型性能的新方法,通过两个文本分类数据集的实验表明该方法在保护隐私的同时提高了模型的性能。
May, 2022
本文提供了一种标准化的基准测试来评估在不同的联邦学习设置下嘈杂标签的影响,为研究人员探索联邦学习中可能出现的数据质量问题提供了帮助。此外还通过对超过 5 个数据集的 20 个基本设置进行的实验,探索了这些数据设置的特征,揭示了联邦嘈杂标签学习中的挑战性情况,为未来的方法开发提供了指导。
Jun, 2023
本文提出了一种名为 FedCorr 的多阶段框架,用于处理具有异构标签噪声的联邦学习,它动态识别嘈杂的客户端,基于每个样本的损失来纠正客户端中的错误标签,并增加了基于估计的本地噪声级别的自适应局部近端正则化项来应对数据异构性并提高训练稳定性。经过实验验证,它在多个噪声级别下表现出鲁棒性,大大优于现有的最新方法。
Apr, 2022
FLR 是一种创新策略,通过生成新的伪标签并将本地和全局模型的预测相结合,有效地应对联邦学习中的标签噪声问题,提高全局模型在不同设置下的准确性并防止记忆嘈杂的标签,从而改善在标签准确性有误的 FL 环境中的泛化能力。
Feb, 2024