（FL）²：克服联邦半监督学习中的少标签问题

Oct, 2024

（FL）²：克服联邦半监督学习中的少标签问题

(FL)$^2$: Overcoming Few Labels in Federated Semi-Supervised Learning

Seungjoo Lee, Thanh-Long V. Le, Jaemin Shin, Sung-Ju Lee

TL;DR该研究解决了联邦学习在实际应用中面临的标签不足问题，特别是在只有服务器拥有少量标签数据的情况下。通过提出$(FL)^2$方法，该论文引入了敏感性-aware一致性正则化和客户端自适应阈值调整，显著提升了无标签客户端的训练效果，缩小了联邦半监督学习与集中式半监督学习之间的性能差距。

Abstract

Federated Learning (FL) is a distributed machine learning framework that trains accurate global models while preserving clients' privacy-sensitive data. However, most FL approaches assume that clients possess labeled data, which is often not the case in practice. Federated

发现论文，激发创造

带有跨设备一致性与离散学习的联邦半监督学习

研究Federated Semi-Supervised Learning问题的两种场景，提出了FedMatch方法，通过广泛的实验验证，表明该方法优于本地半监督学习和将联邦学习与半监督学习简单结合的基线。

Jun, 2020

SemiFed: 带一致性和伪标记的半监督联邦学习

本文提出了一种名为SemiFed的新框架，它将一致性正则化和伪标记方法融合到了联合学习中，以解决跨数据中心联合学习中的部分标记问题，并证明了该方法在同质化和异质化数据分布设置下的有效性。

Aug, 2021

原型网络的联邦半监督学习

ProtoFSSL是一种新颖的基于原型网络的半监督FL方法，它通过轻量级原型实现客户端之间的知识共享，减少了通信和计算成本，并在多个数据集上实现了更高的准确性。

May, 2022

面向联邦开放世界半监督学习的无偏训练

本文提出了一种新的Federatedopen-world Semi-Supervised Learning（FedoSSL）框架，可解决分布式和开放式环境下训练过程中异构分布未知类所导致的偏差，通过使用抑制损失增强聚合效果和校准模块确保知识传递一致，已在CIFAR-10， CIFAR-100和CINIC-10等真实数据集上进行了验证。

May, 2023

使用双重控制器解决联邦半监督学习中的数据不平衡问题

该论文提出了一种名为FedDure的新型FSSL框架，其中采用双重调节器（C-Reg和F-Reg）来解决数据分布不同的FSSL实际和挑战场景，并用双层优化来调整模型的训练过程，理论和实证结果都表明FedDure优于现有方法，特别是在CIFAR-10和CINIC-10数据集上。

Jul, 2023

本地或全局：有限标签下的选择性知识综合联邦学习

在本研究中，我们提出了FedLabel方法，该方法可以在标签有限的本地数据情况下，通过全局模型或本地模型对未标记数据进行伪标记，进而利用全局模型和本地模型的知识，通过全局-本地一致性正则化提高模型的泛化能力，它不需要额外的专家、通信参数，也不需要服务器标记数据或完全标记的客户端数据，并在跨设备和跨网络隔离设置中表现优于其他半监督联邦学习方法和完全监督方法。

Jul, 2023

有效的半监督异构参与者联邦学习

在资源受限环境中，通过介绍聚类正则化和全局更新频率适应的控制算法，我们提出了一种新的训练模型系统，用于解决联合学习中的数据非独立同分布和模型收敛性问题，该系统在减少训练时间和通信成本的同时提高了准确性。

Jul, 2023

FedAnchor: 为未标记的客户端增强联邦半监督学习的标签对比损失

本文提出了FedAnchor方法，它是一种创新的半监督学习方法，引入了独特的双头结构（称为锚头），与仅在服务器上进行训练的分类头配对，锚头使用基于余弦相似度度量的新设计标签对比损失，通过减轻伪标签技术中的确认偏见和过拟合问题，显著提高了模型的收敛速度和准确性。

Feb, 2024

通过锚点模型聚合学习无标签客户之间的差异，用于联合半监督学习

通过使用SemiAnAgg方法，本文在Federated semi-supervised learning（FedSemi）领域实现了未标记客户端的聚合，并在四个被广泛使用的FedSemi基准测试中取得了最新的最优结果，与之前的state-of-the-art相比，CIFAR-100上准确性提高了9％，ISIC-18医学数据集上回忆率提高了7.6％。

Jul, 2024

（FL）²：克服联邦半监督学习中的少量标签问题

本研究解决了联邦学习（FL）中客户端缺乏标记数据的问题，特别是在只有服务器拥有少量标记数据的情况下。提出的（FL）²方法通过引入敏感度感知一致性正则化、客户端特定的自适应阈值和基于学习状态的聚合策略，显著提升了无标记客户端的训练效果，缩小了联邦半监督学习与集中半监督学习之间的性能差距。实验验证了该方法在标记数据稀缺场景下的有效性与潜在影响。

Oct, 2024