Feb, 2024

FedAnchor: 为未标记的客户端增强联邦半监督学习的标签对比损失

PDF
TL;DR本文提出了 FedAnchor 方法，它是一种创新的半监督学习方法，引入了独特的双头结构（称为锚头），与仅在服务器上进行训练的分类头配对，锚头使用基于余弦相似度度量的新设计标签对比损失，通过减轻伪标签技术中的确认偏见和过拟合问题，显著提高了模型的收敛速度和准确性。
federated learningsemi-supervised learningfedanchordouble-head structurelabel contrastive loss
发现论文，激发创造
  • 原型网络的联邦半监督学习

    ProtoFSSL 是一种新颖的基于原型网络的半监督 FL 方法，它通过轻量级原型实现客户端之间的知识共享，减少了通信和计算成本，并在多个数据集上实现了更高的准确性。

    May, 2022

  • 带有跨设备一致性与离散学习的联邦半监督学习

    研究 Federated Semi-Supervised Learning 问题的两种场景，提出了 FedMatch 方法，通过广泛的实验验证，表明该方法优于本地半监督学习和将联邦学习与半监督学习简单结合的基线。

    Jun, 2020

  • 通过客户间关系匹配的联合半监督医学图像分类

    本论文研究了一个名为 Federated Semi-supervised Learning 的实际而具有挑战性的问题，旨在通过联合利用标记和未标记客户的数据来学习联邦模型，并提供了一种新颖的方法来通过与新的客户关系匹配方案来改进传统的一致性正则化机制在实际医院数据集上的有效性得到了证明。

    Jun, 2021

  • 重思半监督联邦学习：如何同时训练具有完全标记和完全未标记的客户端影像数据

    通过提出的分离联合学习（IsoFed）方案，本文研究了在半监督联邦学习中有效训练具有带标签和无标签客户端的方法，并在四种不同模态的医学图像数据集上评估了模型性能，并在不同的实验设置下验证了所提出方法的有效性。

    Oct, 2023

  • 面向联邦开放世界半监督学习的无偏训练

    本文提出了一种新的 Federatedopen-world Semi-Supervised Learning（FedoSSL）框架，可解决分布式和开放式环境下训练过程中异构分布未知类所导致的偏差，通过使用抑制损失增强聚合效果和校准模块确保知识传递一致，已在 CIFAR-10， CIFAR-100 和 CINIC-10 等真实数据集上进行了验证。

    May, 2023

  • 具有极端标签不足的联邦模型的鲁棒训练

    我们提出了一种新颖的双模型范式 Twin-sight，通过不同角度从有标签和无标签数据中提供洞察力，以增强相互引导。该方法同时训练具有监督目标函数的监督模型和使用无监督目标函数训练的无监督模型，通过引入邻域保持约束增强两个模型之间的协同效应。通过在四个基准数据集上进行的全面实验，我们有实质性证据表明 Twin-sight 在各种实验设置下可以显著优于现有方法，验证了所提出 Twin-sight 的实效性。

    Feb, 2024

  • 通过合成锚点克服分散式联合学习中的数据和模型异质性

    我们提出了一种名为 DeSA 的新型分散式联邦学习（FL）技术，通过引入合成锚点来解决分散式 FL 中的数据和模型异质性管理问题，并在领域自适应和知识蒸馏理论基础上从理论和实证上展示了其有效性。

    May, 2024

  • SSFL: 通过个性化自监督解决联合学习中的标签不足问题

    本文提出自监督联邦学习框架（SSFL），包括标签不足、数据异构性等挑战，并提出一系列算法，如 Per-SSFL、FedAvg 和 SimSiam 等。作者还开发了一个分布式训练系统和相关评估协议，发现监督和非监督学习之间的性能差距小。

    Oct, 2021

  • 基于知识增强的半监督联邦学习：聚合 IoT 中异构轻量级客户端

    pFedKnow 是一个 SemiFL 框架，它通过神经网络剪枝技术生成轻量级的个性化客户端模型以降低通信成本，并将预训练的大型模型作为先验知识来指导个性化客户端模型的聚合，以进一步提高框架性能。

    Mar, 2023

  • 有效的半监督异构参与者联邦学习

    在资源受限环境中，通过介绍聚类正则化和全局更新频率适应的控制算法，我们提出了一种新的训练模型系统，用于解决联合学习中的数据非独立同分布和模型收敛性问题，该系统在减少训练时间和通信成本的同时提高了准确性。

    Jul, 2023