CVPRMar, 2022

FedDC：基于本地漂移解耦和校正的非独立同分布数据联邦学习

PDF
TL;DR本文介绍了一种新的联邦学习算法，FedDC，旨在通过本地漂移重构和修正来解决客户端数据分布异质性的问题，实验结果证明 FedDC 在各种图像分类任务上具有加速收敛和更好的性能。
federated learningfeddclocal drift decouplingconvergenceimage classification
发现论文，激发创造
  • FedPDC：面向公共数据集纠错的联邦学习

    本文介绍了一种新的 Federated Learning 算法 FedPDC，通过使用某些行业的共享数据集来优化本地模型的聚合方式和本地训练的损失函数。在许多基准实验中，FedPDC 可以在极度不平衡的数据分布情况下有效提高全局模型的准确性，同时确保客户数据的隐私保护，而且准确性提升不会带来额外的通信成本。

    Feb, 2023

  • DCFL：非独立同分布感知数据压缩辅助联邦学习

    分散式学习模式下的联邦学习存在数据分布不同的挑战，本论文提出了使用数据压缩和核对齐方法的 DCFL 算法，以解决该挑战，并在多个基准测试中展示了竞争性性能。

    Dec, 2023

  • 异构联邦学习中的局部全局知识蒸馏与非独立同分布数据

    该论文提出一种名为 FedGKD 的新方法，通过融合历史全局模型的知识进行本地训练，解决异构联邦学习中的客户端漂移问题，并在各种计算机视觉和自然语言处理数据集上进行广泛的实验和评估，达到了优于其他五种方法的结果。

    Jun, 2021

  • 多联邦学习：使用分散的联邦学习处理包容性非独立同分布数据

    多联邦学习是一个去中心化的联邦学习框架，旨在解决非独立同分布数据的问题，并通过维护多个模型并行进行收敛，以增强适应性。

    Apr, 2024

  • FedDistill: 全局模型蒸馏以消除非独立同分布联邦学习中的局部模型偏差

    FedDistill 是一个增强全局模型与本地模型之间知识传输的框架，专注于解决非均衡类分布的问题，通过群体蒸馏并将全局模型分解为特征提取器和分类器，确保本地模型不会忘记低频类别，而是更擅长准确识别和分类，通过全面实验验证了 FedDistill 在准确度和收敛速度上超越了现有基线模型。

    Apr, 2024

  • 通过漂移正则化的非独立同分布数据上的联邦学习

    在异构环境中，我们提出了一个名为 LfD（Learning from Drift）的方法，通过漂移估计和漂移正则化两个关键组件，该方法有效地在训练模型时防止性能下降，并在非独立同分布（Non-IID）数据的联邦学习中表现出优越性。

    Sep, 2023

  • 本地学习很重要：重新思考联邦学习中的数据异构性

    本文提出了一种叫做 FedAlign 的基于局部学习广泛性而非接近约束的数据异构性联邦学习解决方案，其可在不引入大量计算和内存开销的情况下实现与最先进的 FL 方法相当的精度。

    Nov, 2021

  • 分布式概念漂移下的联邦学习

    本文研究了分布式概念漂移下的联邦学习，提出了两种新的聚类算法以适应数据异质性和时间变化的漂移，并且通过实验验证表明它们的准确性显著优于现有的基线算法，接近理想算法。

    Jun, 2022

  • FedCD: 非独立同分布联邦学习性能改进

    提出 FedCD 方法，将模型动态地克隆和删除以将设备分组，实现在非独立同分布的数据上高精度和更快的收敛。

    Jun, 2020

  • 非 IID 环境下辅以差分隐私合成数据的联邦学习

    本文提出了基于差分隐私均值共享的联邦学习算法 FedDPMS，该算法使用变分自编码器在保护隐私的前提下，增强本地数据集合成多样化的数据以避免数据异构性对于联邦学习的负面影响，实验表明 FedDPMS 算法比其他面向异构数据的联邦学习算法性能更佳，特别适用于深度图像分类任务。

    Jun, 2022