May, 2024

使用更新摘要和基于投票的防御提升联邦学习的安全和隐私性

PDF
TL;DRFederated Learning with Update Digest (FLUD) is a novel framework that ensures privacy preservation, resistance to Byzantine attacks, and reduced overhead through the use of the LinfSample method and optimized SMPC protocols.
federated learningprivacy preservationbyzantine attacksupdate digestsecure multi-party computation
发现论文，激发创造
  • 联邦学习的进展：模型、方法和隐私

    本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题，提出了一种更加通用的算法设计框架、攻击场景和防御方法，致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。

    Feb, 2023

  • 5G 网络安全联邦学习框架

    本文提出了一种基于区块链的安全联邦学习框架，通过构建智能合约，自动执行防御策略，识别恶意攻击参与者，同时采用本地差分私有化技术，有效地防止中毒和成员推断攻击。

    May, 2020

  • FedTruth: 拜占庭容错和后门抵制的联邦学习框架

    FedTruth 是一种针对 FL 中的模型污染问题的鲁棒防御方法，通过动态聚合权重估计全局模型更新，考虑了所有良性客户的贡献，并在实证研究中证明了其对拜占庭攻击和后门攻击的毒化更新的影响有很好的缓解效果。

    Nov, 2023

  • 联邦学习的安全与隐私问题

    分布式学习中的联邦学习存在安全和隐私挑战，本研究针对各类机器学习模型，包括大型语言模型，提出了安全和隐私挑战的综合分类，重点关注聚合器和参与者的攻击，包括投毒攻击、后门攻击、成员推断攻击、生成对抗网络攻击和差分隐私攻击，同时提出了未来研究的新方向，旨在强化联邦学习系统以应对新兴安全风险并保护分布式学习环境中的敏感数据隐私。

    Jul, 2023

  • 从表示的角度可证明抵御联邦学习中的隐私泄露

    本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御 DLG 和 GS 攻击的同时能够将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。

    Dec, 2020

  • 降低信息泄漏和计算的联邦学习

    Upcycled-FL 是一种新颖的联邦学习框架，应用在每个偶数迭代中的一阶逼近，以在保持隐私的同时提高隐私 - 准确性平衡，并通过引入扰动机制来保护隐私。实验表明，Upcycled-FL 在异构数据上持续优于现有方法，并且平均减少 48％的训练时间。

    Oct, 2023

  • 联邦学习隐私：攻击、防御、应用和政策环境 - 一项调研

    深度学习和联邦学习是当前研究的重点，其中涉及隐私保护技术、隐私攻击以及隐私法规的探讨。

    May, 2024

  • TrustFed：一种具有恶意攻击抵抗能力的可靠联邦学习框架

    提出了一种层次化审计的联邦学习（HiAudit-FL）框架，使用模型审计和参数审计两个阶段来增强学习过程的可靠性和安全性，并通过基于扩散模型的 AI-Enabled 审计选择策略（ASS）和深度强化学习（DRL）框架设计了高效的 DRL-ASS 算法来识别和处理潜在的恶意用户。

    Dec, 2023

  • 强大的联邦学习抵抗客户端训练数据分布推理攻击

    通过提出 InferGuard，一个新颖的拜占庭鲁棒聚合规则，我们的防御机制在保护客户端训练数据分布推断攻击方面表现出高度的有效性，甚至对于强适应性攻击也具有很强的防御能力，并在各种实际的联邦学习场景中显著优于基准方法。

    Mar, 2024

  • 在联邦学习框架下维护隐私和安全

    通过模拟结果，本文分析了联邦学习中的隐私和安全问题并提出了保护数据隐私的挑战。

    Sep, 2019