Sep, 2024

一种隐蔽且持久的持久后门攻击机制在联邦学习中的应用

HTML
PDF
TL;DR本研究针对联邦学习中的后门攻击问题，提出了一种新颖的后门攻击机制SDBA，特别针对自然语言处理任务。通过对LSTM和GPT-2模型的系统分析，识别了最脆弱的层并采用了层级梯度掩蔽和top-k%梯度掩蔽方法，实现了隐蔽性与持久性的结合。实验证明，SDBA在持久性和绕过代表性防御机制方面表现优越，强调了在基于NLP的联邦学习系统中需要加强防御策略的必要性。
发现论文，激发创造
  • 使用稳健的学习速率防御联邦学习中的后门

    本文提出了防范联合学习中后门攻击的一个轻量级的防御方案, 该方案通过调整聚合服务器的学习速率来达到目的, 在实验中，我们发现我们的防御方案显著优于文献中提出的一些防御措施。

    Jul, 2020

  • BaFFLe：基于反馈的联邦学习进行的后门检测

    本文提出了一种基于反馈的联邦学习防御方法（BAFFLE）来解决联邦学习中受污染模型的后门攻击问题，并将多个客户机器的数据集合并以检测可能存在的污染，结果表明该方案可以在对CIFAR-10和FEMNIST数据集进行实证评估时检测到最先进的后门攻击，检测准确率达到100％，误报率低于5％。

    Nov, 2020

  • ARIBA: 面向联邦学习中后门攻击的准确与鲁棒识别

    本文提出了一种名为ARIBA的新方法，它能够准确、有力地识别联邦学习中的后门攻击，并通过使用CNN层的过滤器和无监督异常检测来为每个客户端计算异常值以识别最可疑的客户端。经过大量实验证明，ARIBA方法可以有效地防御多种最先进的攻击，而不会降低模型的性能。

    Feb, 2022

  • 罕见嵌入和梯度组件装的联邦学习后门攻击

    本文通过研究NLP模型中的稀有词嵌入，调查了后门攻击的模型毒化的可行性。在文本分类中，不到1%的对手客户端就足以操纵模型输出，而对于一个较简单的数据集，仅需0.1%的对手客户端就足以有效地污染全局模型。此外，我们还提出了一种针对联邦学习方案的技术——梯度集成，它提高了后门性能在我们的所有实验设置中表现出优越性。

    Apr, 2022

  • 连续训练下的联邦后门攻击防御

    通过训练两个模型，其中一个不带任何防御机制，另一个结合恶意客户过滤和提前停止以控制攻击成功率，我们提出了防御联邦学习背门攻击的框架——“阴影学习”。该框架在理论上受到了证明，并且实验证明了它显著改善了现有的防御措施。

    May, 2022

  • 神经毒素：联邦学习中的持久后门

    本文提出一种新的方法Neurotoxin, 用于对联邦学习系统中的后门攻击进行对抗，它可以攻击在训练过程中变化较小的参数，使得攻击可以更加持久。对十个自然语言处理和计算机视觉任务进行了全面评估，发现该方法可以使最新的后门攻击持久性提高两倍。

    Jun, 2022

  • Dim-Krum：基于 Krum 的分维聚合的 NLP 后门抵抗联邦学习

    本文提出了一种针对NLP领域中后门攻击的新型联邦聚合算法Dim-Krum，并通过实验验证了它的有效性。

    Oct, 2022

  • 数据不可知联邦学习服务器端后门攻击

    本文提出了一个新的攻击模型，称为服务器上的数据不可知后门攻击(DABS)，该模型旨在直接修改全局模型以在FL系统中放置后门。

    May, 2023

  • 通过污染关键层实现后门联邦学习

    提出了一种基于攻击者视角的泛指在位方法，用于识别和验证后门关键层，以及基于这些目标层谨慎制定新的后门攻击方法，在各种防御策略下平衡攻击效果和潜伏性。经过广泛实验证明，该方法能够成功地在10%恶意客户端的情况下攻击七种最新防御策略下的联邦学习，并优于最新的后门攻击方法。

    Aug, 2023

  • 超越传统威胁：对联邦学习的持续后门攻击

    通过全组合后门攻击方法，我们在全局模型中聚合了更多的触发信息，从而形成更完整的后门模式，提高了训练后门全局模型对良性更新的韧性，从而在测试集上获得更高的攻击成功率，FCBA的持久性优于目前已知的联邦学习后门攻击。

    Apr, 2024