Sep, 2023

基于遗传算法的动态后门攻击对联合学习网络流量分类

PDF
TL;DR通过使用基于遗传算法的 GABAttack 对联邦学习在网络流量分类中的后门攻击，研究证实了这种攻击的成功，并提出网络安全专家和从业者需要开发强大防御措施的警示。
发现论文，激发创造
  • 联邦生成对抗网络医学图像合成中的后门攻击和防御

    本文研究了联邦生成对抗网络（FedGANs）中后门攻击的问题，提出了一种高效的防御措施 ——FedDetect。在两个不同模态的医学数据集上进行了实验，表明后门攻击会导致低保真度合成图像，但使用 FedDetect 能够抵御此类攻击，以提高分類性能。

    Oct, 2022

  • 关于联邦学习后门防御漏洞的研究

    本文重点研究联邦学习（FL）中后门攻击的防御方法，提出一种新的联邦后门攻击框架，通过直接修改局部模型权重注入后门触发器，并与客户端模型联合优化，从而更加单独和隐蔽地绕过现有防御。实证研究表明最近的三大类联邦后门防御机制存在一些缺陷，我们对此提出了建议。

    Jan, 2023

  • 基于联邦 GAN 的医学图像合成中的后门攻击

    本研究提出了一种针对联邦 GAN 的后门攻击方式，并且证明了添加少于 0.5% 的图像大小的触发器可以破坏 FL-GAN 模型，基于此，我们提供了两种有效的防御策略：全局恶意检测和局部训练正则化，并且展示了两种策略相结合可以产生强大的医学图像生成能力。

    Jul, 2022

  • 如何后门联邦学习

    本文论述了联邦学习的安全问题，指出任何参与者都可以在联邦学习中引入隐藏的后门功能，进而设计了基于替换模型和泛化约束的攻击方式。这种攻击方法可以在短时间内使全局模型对后门任务达到 100％的准确率，并可通过对抗损失函数规避检测方法。

    Jul, 2018

  • FTA：隐蔽且强大的开关门背门攻击及其对联邦学习的灵活触发

    我们提出了一种新的灵活的触发器方法，利用生成触发器函数来实施偷偷摸摸的反向门攻击，以此来绕过联邦学习的防御机制。本文通过在真实数据集上进行的广泛实验验证了我们的攻击策略在分布式学习框架中的有效性和隐蔽性。

    Aug, 2023

  • 你真的可以后门联邦学习吗？

    本文研究联邦学习中的后门攻击及防御，探讨了如何在 EMNIST 数据集上实现防御策略，结论表明采用范数削弱和差分隐私能够有效减轻后门攻击带来的影响，同时开放代码以期鼓励更多研究者参与其中。

    Nov, 2019

  • 联邦学习中的反向攻击缓解

    本文提出了一种针对联邦学习中后门攻击的新方法：设计一种联邦修剪方法以消除网络中的冗余神经元并调整模型的极端权重值，在 Fashion-MNIST 和 CIFAR-10 等广泛使用的数据集上进行实验证明，该方法可以将平均攻击成功率从 99.7％降低到 1.9％，并只损失 5.5％的测试准确率。

    Oct, 2020

  • 使用稳健的学习速率防御联邦学习中的后门

    本文提出了防范联合学习中后门攻击的一个轻量级的防御方案，该方案通过调整聚合服务器的学习速率来达到目的，在实验中，我们发现我们的防御方案显著优于文献中提出的一些防御措施。

    Jul, 2020

  • 通过无需数据生成触发器来保护联邦学习防止后门攻击

    通过学习后门攻击的两个特征，即触发器比正常知识学习得更快，触发器模式对图像分类的影响比正常类模式更大，我们的方法通过生成具有新学习知识的图像，并通过评估这些生成的图像的效果来过滤触发器图像，以确保更新的全局模型是良性的，实验结果表明，我们的方法可以抵御几乎所有现有类型的后门攻击，并在 IID 和 non-IID 场景下优于所有七种最先进的防御方法，尤其是在 80％的恶意客户端存在时依旧能够成功抵御后门攻击。

    Aug, 2023

  • 攻击尾部：是的，你真的可以破解联邦学习

    通过理论分析和实验，研究在分布式机器学习领域，如何有效检测和保护模型免受恶意注入的后门影响。

    Jul, 2020