Dec, 2023

PROFL：一种具有严格防毒攻击能力的隐私保护联邦学习方法

PDF
TL;DR提出了一种基于双陷门附加同态加密算法和盲化技术的新型隐私保护拜占庭 - 鲁棒联邦学习框架 PROFL，通过安全的 Multi-Krum 算法和基于统计的隐私保护防御算法，PROFL 在用户级别和特征级别上分别消除恶意梯度和异常项干扰，提高了鲁棒性。实验证明与类似的隐私保护鲁棒方法相比，PROFL 在不同攻击设置下能够提高 39% 至 75% 的准确率，显示出明显的优势。
federated learningprivacy leakagepoisoning attacksprivacy-preservingbyzantine-robust
发现论文，激发创造
  • 揭示差分隐私与联邦学习认证鲁棒性在对抗性攻击下的关联

    本文研究了使用不同 ially private way（DPFL）提供认证的鲁棒性来保护 Federated learning（FL）算法中存在的隐私泄露问题，包括提出了可提高实例级的隐私机制，并在用户和实例级别提供了二项认证标准来证明 DPFL 的认证鲁棒性。

    Sep, 2022

  • FLIP：联邦学习中后门缓解的可证明防御框架

    本文介绍了一个理论分析及实验研究结果，关于联邦学习在提高隐私保护的同时，如何防止数据或梯度被恶意污染，通过提出反向工程防御方法，可以保证攻击成功率的减少，并提高对抗性的鲁棒性。

    Oct, 2022

  • FheFL：支持全同态加密的拜占庭用户隐私保护联邦学习

    本文提出了一种基于全同态加密的联邦学习新方案，在保护用户隐私的同时有效应对了数据毒化攻击，保证了安全性、隐私性、收敛性以及在可接受的计算成本下取得了可比较的准确率。

    Jun, 2023

  • 从表示的角度可证明抵御联邦学习中的隐私泄露

    本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御 DLG 和 GS 攻击的同时能够将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。

    Dec, 2020

  • 联邦学习中的隐私与鲁棒性：攻击与防御

    在这篇综述性论文中，作者重点介绍基于联邦学习的系统在应对恶意攻击、保障隐私方面所面临的问题，特别关注如何提高系统鲁棒性和隐私保护措施。

    Dec, 2020

  • RFLPA：一种抵御污染攻击的鲁棒联邦学习框架并具有安全聚合

    我们提出了一种基于安全聚合协议的抵御毒化攻击的强韧联邦学习框架（RFLPA），该框架通过计算本地更新和服务器更新之间的余弦相似度来进行鲁棒聚合。此外，我们利用可验证的打包 Shamir 秘密共享来实现每个用户的通信成本降低为 O（M + N），并设计一种新颖的点积聚合算法来解决信息泄露增加的问题。我们的实验结果显示，与最先进的方法 BREA 相比，RFLPA 在保持竞争性准确性的同时显著减少了 75％以上的通信和计算开销。

    May, 2024

  • FLCert：针对攻击的可证明安全的联邦学习

    FLCert 是一种基于集成学习方法的联邦学习框架，对有限数量的恶意客户端攻击具有可证明的安全性，通过将客户端分组、使用现有联邦学习算法为每组客户端学习全局模型并在全局模型之间取多数投票来分类测试输入，成功地抵御有限数量的恶意客户端攻击。

    Oct, 2022

  • FLShield：基于验证的联邦学习防御毒化攻击的框架

    本文提出了一种名为 FLShield 的新颖 FL 框架，利用来自 FL 参与者的良性数据验证本地模型，以确保安全性和可靠性，并防止恶意参与者的攻击，同时保护本地数据的隐私。

    Aug, 2023

  • SaFL：面部识别系统中具备 Sybil 感知能力的联邦学习

    使用 Sybil 感知的联邦学习（SaFL）的新防御方法，通过一种新颖的时变聚合方案最小化 sybil 的影响。

    Nov, 2023

  • FLGuard: 基于对比模型的拜占庭安全联邦学习

    FLGuard 是一种新的拜占庭 - 鲁棒联邦学习方法，通过利用对比学习技术检测恶意客户端并丢弃恶意本地更新，设计 FLGuard 作为一种集成方案来最大化其防御能力，在各种中毒攻击下广泛评估 FLGuard，并与现有的拜占庭 - 鲁棒联邦学习方法的全局模型的准确性进行比较，在大多数情况下，FLGuard 优于现有的防御方法，并在非独立和标识分布设置下展现了巨大的改进。

    Mar, 2024