Oct, 2022

联邦生成对抗网络医学图像合成中的后门攻击和防御

PDF
TL;DR本文研究了联邦生成对抗网络（FedGANs）中后门攻击的问题，提出了一种高效的防御措施 ——FedDetect。在两个不同模态的医学数据集上进行了实验，表明后门攻击会导致低保真度合成图像，但使用 FedDetect 能够抵御此类攻击，以提高分類性能。
deep learningimage synthesismedical imagesfederated learningbackdoor attacks
发现论文，激发创造
  • 基于联邦 GAN 的医学图像合成中的后门攻击

    本研究提出了一种针对联邦 GAN 的后门攻击方式，并且证明了添加少于 0.5% 的图像大小的触发器可以破坏 FL-GAN 模型，基于此，我们提供了两种有效的防御策略：全局恶意检测和局部训练正则化，并且展示了两种策略相结合可以产生强大的医学图像生成能力。

    Jul, 2022

  • 关于联邦学习后门防御漏洞的研究

    本文重点研究联邦学习（FL）中后门攻击的防御方法，提出一种新的联邦后门攻击框架，通过直接修改局部模型权重注入后门触发器，并与客户端模型联合优化，从而更加单独和隐蔽地绕过现有防御。实证研究表明最近的三大类联邦后门防御机制存在一些缺陷，我们对此提出了建议。

    Jan, 2023

  • 通过无需数据生成触发器来保护联邦学习防止后门攻击

    通过学习后门攻击的两个特征，即触发器比正常知识学习得更快，触发器模式对图像分类的影响比正常类模式更大，我们的方法通过生成具有新学习知识的图像，并通过评估这些生成的图像的效果来过滤触发器图像，以确保更新的全局模型是良性的，实验结果表明，我们的方法可以抵御几乎所有现有类型的后门攻击，并在 IID 和 non-IID 场景下优于所有七种最先进的防御方法，尤其是在 80％的恶意客户端存在时依旧能够成功抵御后门攻击。

    Aug, 2023

  • 使用稳健的学习速率防御联邦学习中的后门

    本文提出了防范联合学习中后门攻击的一个轻量级的防御方案，该方案通过调整聚合服务器的学习速率来达到目的，在实验中，我们发现我们的防御方案显著优于文献中提出的一些防御措施。

    Jul, 2020

  • 攻击尾部：是的，你真的可以破解联邦学习

    通过理论分析和实验，研究在分布式机器学习领域，如何有效检测和保护模型免受恶意注入的后门影响。

    Jul, 2020

  • 联邦学习中的后门攻击防御技术 - FedDefender

    FedDefender 是针对联邦学习中针对性攻击的一种防御机制，通过差分测试来识别恶意客户端并减少攻击成功率 10％，同时不影响全局模型性能。

    Jul, 2023

  • GANcrop: 联邦学习中的对抗性防御解决方案

    该论文介绍了一种名为 “GANcrop” 的新型防御机制，用于防范联邦学习中的后门攻击，通过对恶意模型和良性模型之间的差异进行对比学习，利用生成对抗网络（GAN）恢复后门触发器并实施有针对性的缓解策略，实验证明 GANcrop 在非独立同分布的情况下有效防御后门攻击，同时保持了令人满意的模型准确性，展示了其卓越的防御效果和实际价值。

    May, 2024

  • 基于遗传算法的动态后门攻击对联合学习网络流量分类

    通过使用基于遗传算法的 GABAttack 对联邦学习在网络流量分类中的后门攻击，研究证实了这种攻击的成功，并提出网络安全专家和从业者需要开发强大防御措施的警示。

    Sep, 2023

  • 你真的可以后门联邦学习吗？

    本文研究联邦学习中的后门攻击及防御，探讨了如何在 EMNIST 数据集上实现防御策略，结论表明采用范数削弱和差分隐私能够有效减轻后门攻击带来的影响，同时开放代码以期鼓励更多研究者参与其中。

    Nov, 2019

  • FedGrad: 通过检查本地终极梯度来减轻联邦学习中后门攻击的影响

    提出 FedGrad 作为一种新的反对联邦学习中背门攻击的防御机制，能够对边缘情况的背门攻击进行较好的防御，并且在不降低主任务精度的情况下最高可以准确检测到几乎 100% 的恶意参与者，从而显著降低背门效果，而且相比现有的防御机制，其表现出更好的性能。

    Apr, 2023