Sep, 2019

测量非同一数据分布对联邦视觉分类的影响

PDF
TL;DR本文研究了 Federated Learning 在视觉分类中的作用，提出了通过服务器的惯性防止非同质数据分布对性能的负面影响，并在 CIFAR-10 上进行了实验，结果表明在不同的非同质性数据分布下，这种方案能够显著提高分类准确率。
federated learningprivacy-preservingvisual modelsnon-identical data distributionclassification performance
发现论文，激发创造
  • 真实数据分布的联邦视觉分类

    本研究探讨如何在真实世界的场景下训练视觉模型。我们使用了两个新的大规模数据集，测试了 Federated Learning 算法的表现，并提出了两种新的算法以优化模型的表现。

    Mar, 2020

  • 非独立同分布数据下的联邦学习

    本文着重研究了在本地数据不 IID 的情况下联邦学习面临的统计挑战，提出了一个使用全局数据子集来提高非 IID 数据训练准确性的解决方案，并通过实验表明，使用仅占 5％的全局数据子集就可以将 CIFAR-10 数据集的准确性提高 30％。

    Jun, 2018

  • 非独立同分布数据上的联邦学习：调查

    本文讨论了联邦学习的隐私保护机制，分析了非独立同分布数据对水平和垂直联邦学习中参数和非参数机器学习模型的影响，概括了当前解决非独立同分布数据挑战的方法，并讨论了这些方法的优缺点。最后，提出了研究方向。

    Jun, 2021

  • 非独立同分布数据孤岛上的联邦学习：一个实验研究

    本文介绍了分布式数据库中的非独立同分布数据的系统性了解和研究的必要性，并通过全面的数据分区策略和广泛的实验来评估现有的联邦学习算法，提供了未来解决 ' 数据孤岛 ' 挑战的启示。

    Feb, 2021

  • FedCD: 非独立同分布联邦学习性能改进

    提出 FedCD 方法，将模型动态地克隆和删除以将设备分组，实现在非独立同分布的数据上高精度和更快的收敛。

    Jun, 2020

  • Dirichlet 分布异构数据的 FedAvg 和 Per-FedAvg 算法的比较评估

    该研究调查了联邦学习（FL）这一机器学习范式，允许在不共享原始数据的设备上进行分散模型训练，从而保护数据隐私。我们比较了该范式内的两种策略：联邦平均（FedAvg）和个性化联邦平均（Per-FedAvg），重点关注它们在非独立同分布数据（Non-IID）条件下的性能。我们的分析显示，使用狄利克雷分布建模的数据异质性水平显著影响两种策略的性能，在高异质性条件下，Per-FedAvg 表现出更强的健壮性。我们的结果为在分散环境下开发更有效和高效的机器学习策略提供了见解。

    Sep, 2023

  • 无畏异质性：针对非独立同分布数据的联合学习分类器校准

    本文介绍了研究人员如何通过实验分析不同层学习的表示来填补数据异质性影响深度分类模型每一层次的深度理解的空白，并提出了一种称为具有虚拟表示的分类器校准（CCVR）的新方法，该方法通过从近似高斯混合模型中采样虚拟表示来调整分类器。实验结果表明，CCVR 在 CIFAR-10，CIFAR-100 和 CINIC-10 等流行的联邦学习基准测试中实现了最新的性能。

    Jun, 2021

  • 对应用于解决联邦学习中非独立同分布和异质数据特性的不同技术的综述

    联邦学习是一种机器学习方法，可以在持有本地数据样本的多个分散边缘设备之间进行协作模型训练，而无需交换这些样本。本报告探讨了非独立非同分布的数据与异构数据带来的问题，并探索了目前设计用于解决这些挑战的算法。

    Jan, 2024

  • 重新思考联邦学习中的数据异质性：引入新概念和标准基准

    我们研究了数据异质性对联邦学习的影响，发现许多之前的联邦学习方法并没有深入探讨不同类型的数据异质性以及这些异质性如何影响参与客户端的准确性表现。我们研究发现，当前设置中的数据异质性不一定是问题，事实上，它对 FL 参与者有益。

    Sep, 2022

  • 基于神经网络的新型不平衡和非独立同分布数据的联邦学习系统

    通过提出集中式的、基于神经网络的联邦学习系统，利用边缘计算减少中央服务器的负载，同时在各种数据分布设置中相对于一些现有基准算法取得令人满意的性能。

    Nov, 2023