基于跨类多样性的联邦主动学习反思
在本研究中,我们提出了 FedLabel 方法,该方法可以在标签有限的本地数据情况下,通过全局模型或本地模型对未标记数据进行伪标记,进而利用全局模型和本地模型的知识,通过全局 - 本地一致性正则化提高模型的泛化能力,它不需要额外的专家、通信参数,也不需要服务器标记数据或完全标记的客户端数据,并在跨设备和跨网络隔离设置中表现优于其他半监督联邦学习方法和完全监督方法。
Jul, 2023
通过在医疗领域分布式的多个机构之间协作学习一个全局模型,联合学习有助于实现数据无需集中的目标。本研究首次尝试评估来自不同领域的本地数据的信息量,并提出了一种称为 Federated Evidential Active Learning (FEAL) 的新方法来处理领域转移下的数据评估。通过引入 Dirichlet 先验分布,我们能够将预测视为概率空间上的分布,并利用基于 Dirichlet 的证据模型来捕获不确定性。然后,我们使用这种不确定性来校准随机不确定性,并采用多样性放松策略来减少数据冗余并保持数据多样性。通过广泛的实验和分析,我们证明了 FEAL 在联合主动学习框架下优于现有主动学习方法的特点和效率。
Dec, 2023
研究通过在联邦学习框架中应用主动学习和采样策略来减少标注工作量,比较了全局 FL 模型使用传统随机采样策略、客户端级别分离的 AL(S-AL)和我们提出的 F-AL 的测试准确率,实验证明 F-AL 在图像分类任务中优于基线方法。
Feb, 2022
本文提出了一种叫做 FedAlign 的基于局部学习广泛性而非接近约束的数据异构性联邦学习解决方案,其可在不引入大量计算和内存开销的情况下实现与最先进的 FL 方法相当的精度。
Nov, 2021
该论文介绍了 Active Learning 和 Federated Learning 的联合学习框架 FEDALV,用于目标域广义化,通过减少特征复杂性和条件对齐来实现准确且高效的图像分类模型训练。
Dec, 2023
采用新的真实数据分布,提出一种名为 FedIIC 的隐私保护框架,该框架通过类内对比学习和共享全局样本的类间对比学习进行特征提取器的校准来缓解训练造成的偏差,并使用考虑难度的逻辑调整构造 softmax 交叉熵损失以确保所有类别的平衡决策边界。在公共可用数据集上的实验表明,FedIIC 在处理两种耦合问题的同时,具有更优越的性能。
Jun, 2022
在联邦学习中,为了解决不同客户端的局部数据异构性所带来的性能下降问题,提出了一种名为 pFedLA 的简单而有效的算法,该算法通过将关注机制纳入客户端的个性化模型,并保持关注块客户化,从而在任何联邦学习方法中提高其性能。
Apr, 2023
本文提出了一种改进的联邦学习方法 ——FedALA,通过 Adaptive Local Aggregation (ALA) 模块,适应性地聚合下载的全局模型和本地模型,初始化每个客户端上的本地模型,并进行训练,实验结果表明,FedALA 在计算机视觉和自然语言处理等五个基准数据集上超过了 11 种现有技术的 baselines,提高了最高达 3.27%的测试准确性,同时我们还将 ALA 模块应用于其他联邦学习方法,实现了最高达 24.19%的测试准确性提高。
Dec, 2022
我们提出了一个联邦主动学习(FedAL)框架,通过在医学图像分析中周期性和交互式地执行主动学习,从而减少标注数据量、保护患者隐私,并保持联邦学习的性能。在真实的皮肤镜数据集上验证了我们的框架,在只使用 50%的样本的情况下,在皮肤病变分类任务上取得了与全数据联邦学习相媲美的性能。
Jun, 2024