May, 2023

面向联邦开放世界半监督学习的无偏训练

PDF
TL;DR本文提出了一种新的 Federatedopen-world Semi-Supervised Learning（FedoSSL）框架，可解决分布式和开放式环境下训练过程中异构分布未知类所导致的偏差，通过使用抑制损失增强聚合效果和校准模块确保知识传递一致，已在 CIFAR-10， CIFAR-100 和 CINIC-10 等真实数据集上进行了验证。
federated semi-supervised learningopen-world settingunseen classesdistributed clientsmachine learning
发现论文，激发创造
  • 带有跨设备一致性与离散学习的联邦半监督学习

    研究 Federated Semi-Supervised Learning 问题的两种场景，提出了 FedMatch 方法，通过广泛的实验验证，表明该方法优于本地半监督学习和将联邦学习与半监督学习简单结合的基线。

    Jun, 2020

  • 朝着真实的半监督学习

    本文提出一种基于伪标签的半监督学习方法，能够处理 open-world SSL 问题，并通过样本不确定性和类别分布先验知识等手段，为已知和未知类别的未标记数据生成可靠的类别分布感知型伪标签。该方法在多种常用数据集上表现良好，特别是在 CIFAR-100，ImageNet-100 和 Tiny ImageNet 数据集上的表现显著优于现有的最先进技术。

    Jul, 2022

  • 原型网络的联邦半监督学习

    ProtoFSSL 是一种新颖的基于原型网络的半监督 FL 方法，它通过轻量级原型实现客户端之间的知识共享，减少了通信和计算成本，并在多个数据集上实现了更高的准确性。

    May, 2022

  • 具有极端标签不足的联邦模型的鲁棒训练

    我们提出了一种新颖的双模型范式 Twin-sight，通过不同角度从有标签和无标签数据中提供洞察力，以增强相互引导。该方法同时训练具有监督目标函数的监督模型和使用无监督目标函数训练的无监督模型，通过引入邻域保持约束增强两个模型之间的协同效应。通过在四个基准数据集上进行的全面实验，我们有实质性证据表明 Twin-sight 在各种实验设置下可以显著优于现有方法，验证了所提出 Twin-sight 的实效性。

    Feb, 2024

  • 少样本零样本情境中的半监督学习

    我们通过引入额外的熵损失构建了一个分类器，用于对来自已知和未知类别的数据进行分类，从而改进了现有的半监督学习方法在已知和未知类别的分类中的表现。通过在 CIFAR-100 和 STL-10 两个基准图像分类数据集上的实验证明，我们相对于现有的 SSL、开放集合 SSL 和开放世界 SSL 方法取得了巨大的改进。当标记数据非常有限（每个类别 1-25 个标记示例）时，进步最为显著。

    Aug, 2023

  • 具备分歧感知的联邦自监督学习

    通过具体实验研究发现了联邦自监督学习的深入见解，并提出了一种新的方法用于解决分散数据的非独立同分布问题。该方法称为 FedEMA，它使用全局模型的 EMA 来自适应地更新客户端的本地模型，并采用动态度量模型发散的的衰减速率。实验结果表明，FedEMA 在线性评估上的性能比现有方法高 3-4％。

    Apr, 2022

  • FedAnchor: 为未标记的客户端增强联邦半监督学习的标签对比损失

    本文提出了 FedAnchor 方法，它是一种创新的半监督学习方法，引入了独特的双头结构（称为锚头），与仅在服务器上进行训练的分类头配对，锚头使用基于余弦相似度度量的新设计标签对比损失，通过减轻伪标签技术中的确认偏见和过拟合问题，显著提高了模型的收敛速度和准确性。

    Feb, 2024

  • 处理联邦半监督学习中的类别变量不平衡问题

    本文提出 Federated Semi-supervised Learning for Class Variable Imbalance (FCVI) 来解决数据变量不平衡问题，并采用 class-variable 学习算法来缓解由于类别数量变化而引起的数据不平衡问题，保持客户隐私。

    Mar, 2023

  • RSCFed: 随机采样共识联邦半监督学习

    该研究提出了一种考虑不同类型客户端的随机采样一致性联邦学习算法，即 RSCFed，通过子取样一致性模型的蒸馏和重加权模型聚合来实现，该方法在自然和医学图像等三个基准数据集上表现优于现有方法。

    Mar, 2022

  • 重思半监督联邦学习：如何同时训练具有完全标记和完全未标记的客户端影像数据

    通过提出的分离联合学习（IsoFed）方案，本文研究了在半监督联邦学习中有效训练具有带标签和无标签客户端的方法，并在四种不同模态的医学图像数据集上评估了模型性能，并在不同的实验设置下验证了所提出方法的有效性。

    Oct, 2023