Oct, 2021

SSFL: 通过个性化自监督解决联合学习中的标签不足问题

PDF
TL;DR本文提出自监督联邦学习框架（SSFL），包括标签不足、数据异构性等挑战，并提出一系列算法，如 Per-SSFL、FedAvg 和 SimSiam 等。作者还开发了一个分布式训练系统和相关评估协议，发现监督和非监督学习之间的性能差距小。
发现论文，激发创造
  • 异构客户端的联邦自监督学习

    提出了一种名为 Heterogeneous Self-supervised Federated Learning（Hetero-SSFL）的统一框架，可以在异构客户端上进行协作表示学习，同时解决了系统异质性和标记数据匮乏等问题，并在非凸目标的异构性设置中提供了收敛保证，而且比现有方法表现更佳。

    May, 2022

  • SemiPFL：边缘智能个性化半监督联邦学习框架

    本文提出了一种名为 SemiPFL 的方案，支持边缘用户在服务器上协作训练超网络，为每个用户生成个性化自动编码器，并在收到来自边缘用户的更新后，基于他们自己的标记数据集，本地汇聚生成一组用户的基础模型，并且这个解决方案在处理数据异质性和有限注释方面具有很好的效果，并在处理用户硬件资源异构性的三个实时场景中展示了 SemiPFL 的稳定性。

    Mar, 2022

  • 通过多维个性化边缘模型实现更公平和有效的联邦学习

    本文提出了一种个性化的联邦学习（CFL）系统，通过特殊设计的全局模型为每个客户定制个性化模型，采用在线训练的模型搜索辅助器和新型聚合算法，解决 FL 在多个维度上的异质性问题。实验证明，CFL 在 FL 训练和边缘推断方面具有全栈优势，并显著改进了模型准确性（在非异构环境中高达 7.2％，在异构环境中高达 21.8％）、效率和公平性。

    Feb, 2023

  • 无需完整标记的联邦学习综述

    本研究探讨了如何利用无标签数据与机器学习技术解决联邦学习（FL）中无全标签数据的问题，并提出了半监督学习、自监督学习和迁移学习方法，对用于评估无标签 FL 方法的数据集进行了总结，最后还在无全标签 FL 上强调了未来的研究方向。

    Mar, 2023

  • 有效的半监督异构参与者联邦学习

    在资源受限环境中，通过介绍聚类正则化和全局更新频率适应的控制算法，我们提出了一种新的训练模型系统，用于解决联合学习中的数据非独立同分布和模型收敛性问题，该系统在减少训练时间和通信成本的同时提高了准确性。

    Jul, 2023

  • GraphFL: 用于图上半监督节点分类的联邦学习框架

    提供了第一个 FL 框架 (GraphFL)，用于解决非 IID 问题，处理新标签域的任务以及利用未标记的图形数据，使用代表性的图神经网络作为 GraphSSC 方法，并在多个图形数据集上评估，结果表明 GraphFL 显着优于比较的 FL 基线，GraphFL 通过自我训练可以获得更好的性能。

    Dec, 2020

  • 客户监督的联邦学习：朝着通用个性化模型

    通过提出一种新的联邦学习框架，使得个性化联邦学习可以学习一个强健的全局模型，以在联邦学习系统中对未知的 / 测试客户端达到与个性化模型相当的性能。

    Mar, 2024

  • 基于知识增强的半监督联邦学习：聚合 IoT 中异构轻量级客户端

    pFedKnow 是一个 SemiFL 框架，它通过神经网络剪枝技术生成轻量级的个性化客户端模型以降低通信成本，并将预训练的大型模型作为先验知识来指导个性化客户端模型的聚合，以进一步提高框架性能。

    Mar, 2023

  • 通过本地自我正则化实现对抗噪声标签的联邦学习

    本文针对联邦学习中标签噪声频繁存在的问题提出一种本地自我正则化的方法，通过模型蒸馏有效地规范本地训练过程，并且可以在各种噪声水平下实现显著的噪声抵抗力，并在 Clothing1M 真实数据集上取得卓越的表现。

    Aug, 2022

  • 重思半监督联邦学习：如何同时训练具有完全标记和完全未标记的客户端影像数据

    通过提出的分离联合学习（IsoFed）方案，本文研究了在半监督联邦学习中有效训练具有带标签和无标签客户端的方法，并在四种不同模态的医学图像数据集上评估了模型性能，并在不同的实验设置下验证了所提出方法的有效性。

    Oct, 2023