Jun, 2023

CRS-FL: 条件随机抽样用于高效通信和隐私保护的联邦学习

PDF
TL;DR本文提出一种基于 CRS（Conditional Random Sampling）的方法，用于提高联合学习（FL）的沟通效率和模型准确性，同时保证数据隐私。实验结果表明，CRS-FL 在沟通效率和隐私保护方面表现出色，并且在更高的抽样率条件下实现了模型准确性优于现有方法的结果。
发现论文，激发创造
  • 增强稀疏化隐私与自适应优化的联邦学习

    这篇论文提出了一种新的联邦学习框架，采用随机稀疏化和梯度扰动来增强差分隐私保证，结合加速技术减少隐私代价，并利用 Renyi DP 紧密评估端到端 DP 保证。实验结果验证了该方法在隐私保证和通信效率方面的优于之前的方法。

    Aug, 2020

  • 基于最优客户端采样的通信高效联邦学习

    本文提出了一种基于 Ornstein-Uhlenbeck 过程的方案，在受通信限制的情况下，通过收集具有信息更新的客户端模型和估计没有通信的本地更新的方式来更新中央模型，实现了在保证性能的同时显著减少了通信量，为联邦学习提供了一种新的通信效率优化方案。

    Jul, 2020

  • 联邦学习中的混合模型：隐私、通讯和准确性权衡

    为了解决联邦学习框架下传统 ERM 问题所面临的隐私保障、低带宽、动态客户端等挑战，我们开发了最优通信 - efficient 私密方案，可以使客户端参与到 ERM 的优化中，同时保证通信和隐私效果，并利用数据和客户端抽样实现隐私扩大，验证了我们的解决方案既能够获得相同的隐私、优化 - 性能操作点，又能大幅降低通信成本。

    Aug, 2020

  • 动态采样与选择性遮蔽：用于高效通信的联合学习

    本研究通过动态采样和 Top-K 选择性掩蔽这两种方法，提高了联邦学习的通信效率，并在公共数据集上进行实验，证明了该方法的有效性。

    Mar, 2020

  • 受限用户可用性下的联邦学习

    Federated Learning (FL) 是一种分散式机器学习框架，可以实现协作模型训练并保护数据隐私。本论文提出了一种名为 Random Access Model (RAM) 的通用用户选择机制，通过延伸 FL 问题的风险感知目标函数，使用 Conditional Value-at-Risk (CVaR) 方法，设计了一种与 RAM 无关的高效训练算法，实验证明在各种情景下与标准 FL 相比，该方法能够显著提高性能。

    Sep, 2023

  • 具有差分隐私的梯度稀疏化，实现高效的无线联合学习

    通过设计基于随机稀疏化算法的梯度稀疏化联邦学习框架，该框架在无线信道上进行训练，提升了训练效率且不牺牲收敛性能，同时降低了差分隐私所引起的性能下降和无线信道传输参数数量。

    Apr, 2023

  • 基于集群的资源感知拆分联邦学习用于连续认证

    结合分割学习、联邦学习等技术，提出了一种能够解决连续认证挑战并保护用户隐私的持续认证系统，同时减轻设备资源负担，并在连续认证场景中保持高准确性。

    May, 2024

  • LEFL：联邦学习中的低熵客户样本选择

    联邦学习是一种机器学习范式，其中多个客户端通过利用私有数据来优化单一全局模型。本研究提出了一种基于高级特征进行一次聚类的客户端抽样策略，以在每一轮中实现分层的客户端抽样，以减少噪音并显著提高全局模型的收敛率，并显著减少了达到目标准确性所需的通信轮次。

    Dec, 2023

  • 使用稀疏模型扰动的联邦学习：在客户端级别的差分隐私下提高准确性

    本篇论文提出了一种名为 Fed-SMP 的新型差分隐私联邦学习方案，该方案采用 Sparsified Model Perturbation (SMP) 技术，在保持高模型准确性的同时，提供客户端级差分隐私保证，并使用 Renyi DP 提供紧密的隐私分析，并证明了 Fed-SMP 收敛性，通过实验数据证明了 Fed-SMP 提高了模型准确性并同时节省通信成本。

    Feb, 2022

  • 使用分散聚合进行具有差分隐私的联邦学习

    移动设备、隐私、实用性、联邦学习和差分隐私是该研究的主要关键词，研究通过在联邦学习中采用差分隐私的实验环境并使用基准数据集来探讨隐私与实用性之间的平衡问题。

    Nov, 2023