Aug, 2024

偏见的力量：在异构差分隐私情况下优化联邦学习中的客户选择

HTML
PDF
TL;DR本研究解决了在差分隐私联邦学习（DPFL）中客户隐私需求异质性的问题，该问题影响到客户选择的效率和模型性能。通过对DPFL的收敛性分析，提出了一种基于偏见客户选择的算法（DPFL-BCS），能够有效优化客户选择过程。实验结果表明，DPFL-BCS在模型实用性方面显著优于最先进的基线方法。
发现论文，激发创造
  • 差分隐私联邦学习：客户端视角

    提出了一种新的算法，通过差分隐私保护的联邦优化算法来处理联邦学习中的差分攻击问题，能够在只牺牲模型性能的小量代价下保持客户端差分隐私。

    Dec, 2017

  • 差分隐私联邦学习算法及性能分析

    采用微分隐私概念，提出一种在模型聚合之前加入人工噪音的差分隐私框架，证明该框架可以在不同保护级别下满足差分隐私。同时，优化了聚合轮数、系统总参与用户数和随机选取的用户数，实现了在不同隐私保护和性能要求下的隐私保护联邦学习算法设计，并通过仿真实验证明了该理论的正确性。

    Nov, 2019

  • 联邦学习中的客户端选择：收敛分析和选择策略

    本文研究了在偏置客户端选择策略下的联邦学习的收敛性，并量化了选择偏差对收敛速度的影响。作者提出了Power-of-Choice这个通信和计算效率高的客户端选择框架，能够在收敛速度和解决方案偏差之间灵活地平衡。实验证明使用Power-of-Choice策略收敛速度可提高至多3倍，测试准确度可提高10％，相比随机选择基线有明显的提高。

    Oct, 2020

  • 差分隐私联邦学习中降低横向溢出

    DP-FedSAM是一种新的DPFL算法，它利用梯度扰动来减轻DP的负面影响，并整合SAM优化器来生成具有更好稳定性和权重扰动鲁棒性的本地平坦模型，从而提高性能并提供隐私保证。

    Mar, 2023

  • 在客户端差分隐私下实现更平缓的模型优化路径和更好的泛化效果的联邦学习

    通过梯度扰动和局部平坦模型来提高权重扰动鲁棒性和性能，进而减少感知信息泄露，DP-FedSAM算法在DPFL中达到最先进的性能。

    May, 2023

  • 联邦学习中效率受限的效用隐私双目标优化的理论分析

    该研究论文系统地提出了一种效率受限的差分隐私联邦学习的双目标优化问题，并针对噪声水平（σ）、通信轮数（T）和样本比例（q）进行了深入的理论分析，通过大量实验验证了分析结果的有效性和实用性，并为差分隐私联邦学习的低成本参数设计提供了宝贵的指导。

    Dec, 2023

  • 通过健壮聚类减轻联邦学习中差异隐私的不平等影响

    提出了一种新颖的聚类差分私有化联邦学习算法，通过基于模型更新和训练损失值对客户进行聚类，以应对联邦学习中的不平等性和隐私保护问题。

    May, 2024

  • 异构差分隐私联邦学习的噪音感知算法

    在联邦学习中，差分隐私被用于保护数据隐私和提高模型效用，然而，在具有异质性要求和客户端批次/数据集大小差异的情况下，传统的聚合策略会降低效用。本文提出了一种名为Robust-HDP的方法，通过有效估计客户端模型更新中的噪声水平并显著减少聚合模型更新中的噪声水平，来提高效用和收敛速度，并对客户端的恶意行为进行安全处理。实验结果和理论分析验证了Robust-HDP的有效性。

    Jun, 2024

  • 通用联邦学习的收敛差分隐私分析：f-DP 视角

    本研究针对联邦学习中隐私保护不足的问题展开，探讨了现有对于噪声联邦差分隐私分析的局限性。通过引入 f-DP 分析方法，论文证明了 Noisy-FedAvg 方法在隐私保护中的收敛下界，以及 Noisy-FedProx 方法的稳定隐私下界，为联邦学习的隐私保护提供了理论支持，并可推广应用至其他差分隐私分析框架。

    Aug, 2024

  • DP$^2$-FedSAM：通过个性化敏感度感知最小化增强差分隐私联邦学习

    本研究解决了现有差分隐私联邦学习（DPFL）方法在数据异构环境下模型效用严重下降的问题。我们提出了一种新颖的DPFL方法DP$^2$-FedSAM，结合个性化部分模型共享和敏感度感知最小化优化器，有效提高了模型效用，同时保持隐私保护。实验结果表明，该方法在隐私与效用平衡方面优于现有方法，尤其在异构数据设置中表现突出。

    Sep, 2024