研究 Federated Semi-Supervised Learning 问题的两种场景,提出了 FedMatch 方法,通过广泛的实验验证,表明该方法优于本地半监督学习和将联邦学习与半监督学习简单结合的基线。
Jun, 2020
本文提出了 FedAnchor 方法,它是一种创新的半监督学习方法,引入了独特的双头结构(称为锚头),与仅在服务器上进行训练的分类头配对,锚头使用基于余弦相似度度量的新设计标签对比损失,通过减轻伪标签技术中的确认偏见和过拟合问题,显著提高了模型的收敛速度和准确性。
Feb, 2024
本论文研究了一个名为 Federated Semi-supervised Learning 的实际而具有挑战性的问题,旨在通过联合利用标记和未标记客户的数据来学习联邦模型,并提供了一种新颖的方法来通过与新的客户关系匹配方案来改进传统的一致性正则化机制在实际医院数据集上的有效性得到了证明。
Jun, 2021
本文提出了一种新的 Federatedopen-world Semi-Supervised Learning(FedoSSL)框架,可解决分布式和开放式环境下训练过程中异构分布未知类所导致的偏差,通过使用抑制损失增强聚合效果和校准模块确保知识传递一致,已在 CIFAR-10, CIFAR-100 和 CINIC-10 等真实数据集上进行了验证。
May, 2023
我们提出了一种新颖的双模型范式 Twin-sight,通过不同角度从有标签和无标签数据中提供洞察力,以增强相互引导。该方法同时训练具有监督目标函数的监督模型和使用无监督目标函数训练的无监督模型,通过引入邻域保持约束增强两个模型之间的协同效应。通过在四个基准数据集上进行的全面实验,我们有实质性证据表明 Twin-sight 在各种实验设置下可以显著优于现有方法,验证了所提出 Twin-sight 的实效性。
通过提出的分离联合学习(IsoFed)方案,本文研究了在半监督联邦学习中有效训练具有带标签和无标签客户端的方法,并在四种不同模态的医学图像数据集上评估了模型性能,并在不同的实验设置下验证了所提出方法的有效性。
Oct, 2023
该论文提出了一种基于原型的联邦学习框架,通过在典型的联邦学习进程的最后全局迭代中进行少量更改就能够实现更好的推理性能,从而在两个基准数据集上实现了更高的准确性和相对高效的通信。
Mar, 2023
提出一种层次化的联邦自监督学习方法 (LW-FedSSL),通过在 FL 环境中利用资源丰富的服务器进行全局模型训练,以及在 FL 本地模型与全局模型之间建立紧密联系的表示对齐机制,实现了与端到端 FedSSL 相当的性能,同时显著降低客户端的资源需求。实验证明 LW-FedSSL 的内存需求较其端到端对应物少 3.3 倍,并且通信成本便宜 3.2 倍。同时,还探索了一种名为 Prog-FedSSL 的渐进训练策略,其在类似内存需求的情况下,通信成本便宜 1.8 倍,优于端到端训练。
Jan, 2024
该研究提出了一种考虑不同类型客户端的随机采样一致性联邦学习算法,即 RSCFed,通过子取样一致性模型的蒸馏和重加权模型聚合来实现,该方法在自然和医学图像等三个基准数据集上表现优于现有方法。
Mar, 2022
该论文提出了一种新的联邦原型学习 (FedProto) 框架,借助全局原型而不是梯度来弥补跨客户端的异质性,从而提高局部模型的性能。
May, 2021