May, 2023

在客户端差分隐私下实现更平缓的模型优化路径和更好的泛化效果的联邦学习

PDF
TL;DR通过梯度扰动和局部平坦模型来提高权重扰动鲁棒性和性能，进而减少感知信息泄露，DP-FedSAM 算法在 DPFL 中达到最先进的性能。
federated learningdifferential privacygradient perturbationsharpness aware minimizationperformance
发现论文，激发创造
  • 差分隐私联邦学习中降低横向溢出

    DP-FedSAM 是一种新的 DPFL 算法，它利用梯度扰动来减轻 DP 的负面影响，并整合 SAM 优化器来生成具有更好稳定性和权重扰动鲁棒性的本地平坦模型，从而提高性能并提供隐私保证。

    Mar, 2023

  • 使用稀疏模型扰动的联邦学习：在客户端级别的差分隐私下提高准确性

    本篇论文提出了一种名为 Fed-SMP 的新型差分隐私联邦学习方案，该方案采用 Sparsified Model Perturbation (SMP) 技术，在保持高模型准确性的同时，提供客户端级差分隐私保证，并使用 Renyi DP 提供紧密的隐私分析，并证明了 Fed-SMP 收敛性，通过实验数据证明了 Fed-SMP 提高了模型准确性并同时节省通信成本。

    Feb, 2022

  • 通过健壮聚类减轻联邦学习中差异隐私的不平等影响

    提出了一种新颖的聚类差分私有化联邦学习算法，通过基于模型更新和训练损失值对客户进行聚类，以应对联邦学习中的不平等性和隐私保护问题。

    May, 2024

  • 增强稀疏化隐私与自适应优化的联邦学习

    这篇论文提出了一种新的联邦学习框架，采用随机稀疏化和梯度扰动来增强差分隐私保证，结合加速技术减少隐私代价，并利用 Renyi DP 紧密评估端到端 DP 保证。实验结果验证了该方法在隐私保证和通信效率方面的优于之前的方法。

    Aug, 2020

  • 运用自适应差分隐私和基于优先级的聚合增强联邦学习

    通过个性化差分隐私框架和考虑各种异构性和属性调整的方法，该论文提出了一种高效地保护隐私的个性化差分隐私框架，并对联邦学习算法的收敛边界进行了分析，同时进一步研究了考虑时间变化的个性化因素的收敛性质。

    Jun, 2024

  • 异构差分隐私联邦学习的噪音感知算法

    在联邦学习中，差分隐私被用于保护数据隐私和提高模型效用，然而，在具有异质性要求和客户端批次 / 数据集大小差异的情况下，传统的聚合策略会降低效用。本文提出了一种名为 Robust-HDP 的方法，通过有效估计客户端模型更新中的噪声水平并显著减少聚合模型更新中的噪声水平，来提高效用和收敛速度，并对客户端的恶意行为进行安全处理。实验结果和理论分析验证了 Robust-HDP 的有效性。

    Jun, 2024

  • 具有差分隐私的梯度稀疏化，实现高效的无线联合学习

    通过设计基于随机稀疏化算法的梯度稀疏化联邦学习框架，该框架在无线信道上进行训练，提升了训练效率且不牺牲收敛性能，同时降低了差分隐私所引起的性能下降和无线信道传输参数数量。

    Apr, 2023

  • 差分隐私联邦学习算法及性能分析

    采用微分隐私概念，提出一种在模型聚合之前加入人工噪音的差分隐私框架，证明该框架可以在不同保护级别下满足差分隐私。同时，优化了聚合轮数、系统总参与用户数和随机选取的用户数，实现了在不同隐私保护和性能要求下的隐私保护联邦学习算法设计，并通过仿真实验证明了该理论的正确性。

    Nov, 2019

  • 揭示差分隐私与联邦学习认证鲁棒性在对抗性攻击下的关联

    本文研究了使用不同 ially private way（DPFL）提供认证的鲁棒性来保护 Federated learning（FL）算法中存在的隐私泄露问题，包括提出了可提高实例级的隐私机制，并在用户和实例级别提供了二项认证标准来证明 DPFL 的认证鲁棒性。

    Sep, 2022

  • 自适应局部步骤联邦学习的收敛分析驱动下差分隐私

    在资源受限的情况下重新考虑差分隐私联邦学习的框架，并分析其在收敛性方面的情况，提出了自适应本地步差分隐私联邦学习 (ALS-DPFL) 算法。通过在 FashionMNIST 和 CIFAR-10 数据集上的实验，相对于以往的工作，我们取得了相当良好的性能。

    Aug, 2023