Jan, 2023

BayBFed: 贝叶斯反门限防御联邦学习

PDF
TL;DR本文提出了一种名为 BayBFed 的新型背门攻击防御框架，其利用客户端更新的概率分布来检测联邦学习中的恶意更新，并成功地在五个基准数据集上进行了广泛评估。
federated learningbackdoor attacksbaybfedprobabilistic measuremalicious updates
发现论文，激发创造
  • BaFFLe：基于反馈的联邦学习进行的后门检测

    本文提出了一种基于反馈的联邦学习防御方法（BAFFLE）来解决联邦学习中受污染模型的后门攻击问题，并将多个客户机器的数据集合并以检测可能存在的污染，结果表明该方案可以在对 CIFAR-10 和 FEMNIST 数据集进行实证评估时检测到最先进的后门攻击，检测准确率达到 100％，误报率低于 5％。

    Nov, 2020

  • FedTruth: 拜占庭容错和后门抵制的联邦学习框架

    FedTruth 是一种针对 FL 中的模型污染问题的鲁棒防御方法，通过动态聚合权重估计全局模型更新，考虑了所有良性客户的贡献，并在实证研究中证明了其对拜占庭攻击和后门攻击的毒化更新的影响有很好的缓解效果。

    Nov, 2023

  • 关于联邦学习后门防御漏洞的研究

    本文重点研究联邦学习（FL）中后门攻击的防御方法，提出一种新的联邦后门攻击框架，通过直接修改局部模型权重注入后门触发器，并与客户端模型联合优化，从而更加单独和隐蔽地绕过现有防御。实证研究表明最近的三大类联邦后门防御机制存在一些缺陷，我们对此提出了建议。

    Jan, 2023

  • 个性化联邦学习的后门攻击

    在个性化联合学习场景中，本文首次研究了后门攻击，并发现部分模型共享的个性化联合学习方法仍然容易受到后门攻击的威胁，提出了三种后门攻击方法，并实验证明这些方法对两种经典个性化联合学习方法的有效性。同时，本文还评估了多种防御策略对这些攻击的有效性，发现梯度范数剪辑策略特别有效。最后，本文呼吁对个性化联合学习场景中的攻击和防御进行进一步研究。

    Jul, 2023

  • 潜伏在暗影中：揭示针对个性化联邦学习的隐蔽后门攻击

    个性化联邦学习（PFL）系统中存在潜在的后门攻击威胁，这些攻击可以通过优化触发器生成过程来无缝嵌入个性化模型，而现有的防御机制在面对这种攻击时往往显得无力。

    Jun, 2024

  • 联邦学习中的后门攻击防御技术 - FedDefender

    FedDefender 是针对联邦学习中针对性攻击的一种防御机制，通过差分测试来识别恶意客户端并减少攻击成功率 10％，同时不影响全局模型性能。

    Jul, 2023

  • 通过无需数据生成触发器来保护联邦学习防止后门攻击

    通过学习后门攻击的两个特征，即触发器比正常知识学习得更快，触发器模式对图像分类的影响比正常类模式更大，我们的方法通过生成具有新学习知识的图像，并通过评估这些生成的图像的效果来过滤触发器图像，以确保更新的全局模型是良性的，实验结果表明，我们的方法可以抵御几乎所有现有类型的后门攻击，并在 IID 和 non-IID 场景下优于所有七种最先进的防御方法，尤其是在 80％的恶意客户端存在时依旧能够成功抵御后门攻击。

    Aug, 2023

  • 用触发优化的数据毒化在联邦学习中隐藏后门模型更新

    DPOT 是一种基于数据污染的联邦学习后门攻击策略，通过动态构建后门目标并优化后门触发器，使后门数据对模型更新的影响最小化，有效地破坏了最先进的防御机制并在各种数据集上优于现有的后门攻击技术。

    May, 2024

  • 使用稳健的学习速率防御联邦学习中的后门

    本文提出了防范联合学习中后门攻击的一个轻量级的防御方案，该方案通过调整聚合服务器的学习速率来达到目的，在实验中，我们发现我们的防御方案显著优于文献中提出的一些防御措施。

    Jul, 2020

  • FLIP：联邦学习中后门缓解的可证明防御框架

    本文介绍了一个理论分析及实验研究结果，关于联邦学习在提高隐私保护的同时，如何防止数据或梯度被恶意污染，通过提出反向工程防御方法，可以保证攻击成功率的减少，并提高对抗性的鲁棒性。

    Oct, 2022