Feb, 2022

使用稀疏模型扰动的联邦学习：在客户端级别的差分隐私下提高准确性

HTML
PDF
TL;DR本篇论文提出了一种名为 Fed-SMP 的新型差分隐私联邦学习方案，该方案采用 Sparsified Model Perturbation (SMP) 技术，在保持高模型准确性的同时，提供客户端级差分隐私保证，并使用 Renyi DP 提供紧密的隐私分析，并证明了 Fed-SMP 收敛性，通过实验数据证明了 Fed-SMP 提高了模型准确性并同时节省通信成本。
发现论文，激发创造
  • 保护重构及其在私有联邦学习中的应用

    本文探讨了在分散式数据环境下，采用局部差分隐私保护敏感数据的可行性，设计了最优局部差分隐私机制，实现了在大规模数据训练下保护隐私，同时保证模型准确性。

    Dec, 2018

  • LDP-Fed: 本地差分隐私联邦学习

    LDP-Fed是一个具有正式隐私保证的新型联邦学习系统，使用本地差分隐私（LDP），有别于现有的LDP协议，其可以处理来自参与者的高维连续值参数。

    Jun, 2020

  • 增强稀疏化隐私与自适应优化的联邦学习

    这篇论文提出了一种新的联邦学习框架，采用随机稀疏化和梯度扰动来增强差分隐私保证，结合加速技术减少隐私代价，并利用 Renyi DP 紧密评估端到端 DP 保证。实验结果验证了该方法在隐私保证和通信效率方面的优于之前的方法。

    Aug, 2020

  • 联邦学习中的本地和中央差分隐私保障鲁棒性和隐私性

    本文研究了如何使用差分隐私技术来保护联邦学习中的隐私和鲁棒性，评估了局部差分隐私（LDP）和中心差分隐私（CDP）技术的可行性和有效性。实验证明，这两个差分隐私技术都可以有效防止后门攻击，并且较其他鲁棒性防御更加有效。同时，差分隐私还可以减轻白盒成员推理攻击。然而，这两个技术都无法防御属性推理攻击。

    Sep, 2020

  • 无需可信服务器的私有联邦学习：凸损失的最优算法

    本文探讨了交叉跨层联合学习中数据隐私保护的问题，提出了基于ISRL-DP的加速算法，并在分类和回归任务中展示了较好的隐私-准确性平衡。

    Jun, 2021

  • 带本地正则化和稀疏化的差分隐私联邦学习

    研究了在用户级差分隐私保证下联邦学习模型性能下降的原因，提出了两种技术：有界本地更新规则化和本地更新稀疏化，以提高模型质量。实验证明，我们的框架显著改善了联邦学习在用户级差分隐私保证下的隐私效用权衡。

    Mar, 2022

  • 在客户端差分隐私下实现更平缓的模型优化路径和更好的泛化效果的联邦学习

    通过梯度扰动和局部平坦模型来提高权重扰动鲁棒性和性能，进而减少感知信息泄露，DP-FedSAM算法在DPFL中达到最先进的性能。

    May, 2023

  • 自适应差分隐私在联邦学习中的基于优先级的方法

    通过采用自适应噪声添加技术，我们提出了一种针对联邦学习的改进方案，根据特征的相对重要性决定注入噪声的数值，以平衡隐私和模型准确性的关系。实验证实了在一定条件下，通过慎重选择参数，可以提高隐私保护而减少模型性能的损失。

    Jan, 2024

  • 通用联邦学习的收敛差分隐私分析：f-DP 视角

    本研究针对联邦学习中隐私保护不足的问题展开，探讨了现有对于噪声联邦差分隐私分析的局限性。通过引入 f-DP 分析方法，论文证明了 Noisy-FedAvg 方法在隐私保护中的收敛下界，以及 Noisy-FedProx 方法的稳定隐私下界，为联邦学习的隐私保护提供了理论支持，并可推广应用至其他差分隐私分析框架。

    Aug, 2024

  • DP$^2$-FedSAM：通过个性化敏感度感知最小化增强差分隐私联邦学习

    本研究解决了现有差分隐私联邦学习（DPFL）方法在数据异构环境下模型效用严重下降的问题。我们提出了一种新颖的DPFL方法DP$^2$-FedSAM，结合个性化部分模型共享和敏感度感知最小化优化器，有效提高了模型效用，同时保持隐私保护。实验结果表明，该方法在隐私与效用平衡方面优于现有方法，尤其在异构数据设置中表现突出。

    Sep, 2024