ICMLJun, 2021

CRFL: 可验证抗后门攻击的联邦学习

PDF
TL;DR本论文提供了第一个通用框架，Certifiably Robust Federated Learning (CRFL)，用于训练具备抗击后门攻击认证的 FL 模型。该方法利用模型参数的裁剪和平滑来控制全局模型的平稳性，从而获得针对有限大小的后门的逐样本鲁棒性认证。同时，该认证还指明了联邦学习参数（如单个实例的攻击者比例，攻击者数量和训练迭代次数）之间的关系。
federated learningbackdoor attacksrobustness certificationclippingsmoothing
发现论文，激发创造
  • FLIP：联邦学习中后门缓解的可证明防御框架

    本文介绍了一个理论分析及实验研究结果，关于联邦学习在提高隐私保护的同时，如何防止数据或梯度被恶意污染，通过提出反向工程防御方法，可以保证攻击成功率的减少，并提高对抗性的鲁棒性。

    Oct, 2022

  • 使用稳健的学习速率防御联邦学习中的后门

    本文提出了防范联合学习中后门攻击的一个轻量级的防御方案，该方案通过调整聚合服务器的学习速率来达到目的，在实验中，我们发现我们的防御方案显著优于文献中提出的一些防御措施。

    Jul, 2020

  • 关于联邦学习后门防御漏洞的研究

    本文重点研究联邦学习（FL）中后门攻击的防御方法，提出一种新的联邦后门攻击框架，通过直接修改局部模型权重注入后门触发器，并与客户端模型联合优化，从而更加单独和隐蔽地绕过现有防御。实证研究表明最近的三大类联邦后门防御机制存在一些缺陷，我们对此提出了建议。

    Jan, 2023

  • FedTruth: 拜占庭容错和后门抵制的联邦学习框架

    FedTruth 是一种针对 FL 中的模型污染问题的鲁棒防御方法，通过动态聚合权重估计全局模型更新，考虑了所有良性客户的贡献，并在实证研究中证明了其对拜占庭攻击和后门攻击的毒化更新的影响有很好的缓解效果。

    Nov, 2023

  • FLCert：针对攻击的可证明安全的联邦学习

    FLCert 是一种基于集成学习方法的联邦学习框架，对有限数量的恶意客户端攻击具有可证明的安全性，通过将客户端分组、使用现有联邦学习算法为每组客户端学习全局模型并在全局模型之间取多数投票来分类测试输入，成功地抵御有限数量的恶意客户端攻击。

    Oct, 2022

  • FLAME: 驯服联邦学习中的后门

    FLAME is a defense framework for Federated Learning that minimizes the required amount of noise by using model clustering and weight clipping to ensure the benign performance of the aggregated model while effectively eliminating adversarial backdoors.

    Jan, 2021

  • 攻击尾部：是的，你真的可以破解联邦学习

    通过理论分析和实验，研究在分布式机器学习领域，如何有效检测和保护模型免受恶意注入的后门影响。

    Jul, 2020

  • 远程消除后门：去除联邦学习中的痕迹

    该文提出了一种基于机器遗忘的方法，使得攻击者可以有效地去除联邦学习中注入的后门，该方法在保证集中模型性能的同时，防止不相关信息的过度遗忘，并通过图像分类方案的全面评估证明了其在多种攻击情境下有效去除后门。

    Apr, 2023

  • 揭示差分隐私与联邦学习认证鲁棒性在对抗性攻击下的关联

    本文研究了使用不同 ially private way（DPFL）提供认证的鲁棒性来保护 Federated learning（FL）算法中存在的隐私泄露问题，包括提出了可提高实例级的隐私机制，并在用户和实例级别提供了二项认证标准来证明 DPFL 的认证鲁棒性。

    Sep, 2022

  • 个性化联邦学习的后门攻击

    在个性化联合学习场景中，本文首次研究了后门攻击，并发现部分模型共享的个性化联合学习方法仍然容易受到后门攻击的威胁，提出了三种后门攻击方法，并实验证明这些方法对两种经典个性化联合学习方法的有效性。同时，本文还评估了多种防御策略对这些攻击的有效性，发现梯度范数剪辑策略特别有效。最后，本文呼吁对个性化联合学习场景中的攻击和防御进行进一步研究。

    Jul, 2023