个性化联邦学习的后门攻击

Jul, 2023

You Can Backdoor Personalized Federated Learning

Tiandi Ye, Cen Chen, Yinggui Wang, Xiang Li, Ming Gao

TL;DR在个性化联合学习场景中，本文首次研究了后门攻击，并发现部分模型共享的个性化联合学习方法仍然容易受到后门攻击的威胁，提出了三种后门攻击方法，并实验证明这些方法对两种经典个性化联合学习方法的有效性。同时，本文还评估了多种防御策略对这些攻击的有效性，发现梯度范数剪辑策略特别有效。最后，本文呼吁对个性化联合学习场景中的攻击和防御进行进一步研究。

Abstract

backdoor attacks pose a significant threat to the security of federated learning systems. However, existing research primarily focuses on backdoor attacks and defenses within the generic FL scenario, where all clients collaborate to train a single global model. \citet{qin2023revisiting

backdoor attacks federated learning personalized federated learning partial model-sharing defense strategies

发现论文，激发创造

潜伏在暗影中：揭示针对个性化联邦学习的隐蔽后门攻击

个性化联邦学习（PFL）系统中存在潜在的后门攻击威胁，这些攻击可以通过优化触发器生成过程来无缝嵌入个性化模型，而现有的防御机制在面对这种攻击时往往显得无力。

Jun, 2024

关于联邦学习后门防御漏洞的研究

本文重点研究联邦学习（FL）中后门攻击的防御方法，提出一种新的联邦后门攻击框架，通过直接修改局部模型权重注入后门触发器，并与客户端模型联合优化，从而更加单独和隐蔽地绕过现有防御。实证研究表明最近的三大类联邦后门防御机制存在一些缺陷，我们对此提出了建议。

Jan, 2023

技术报告：基于全体群体知识对齐协助后门联邦学习

本文提出一种利用联邦学习（FL）模型信息泄漏强化早期注入的单次后门攻击的方法，即在 FL 模型收敛时注入后门攻击。作者提出了一个两阶段后门攻击，通过预备阶段对本地数据进行分布推断攻击并基于推断结果制定本地数据集，以及在注入后门攻击时根据 FL 模型信息泄漏进行调整，提高攻击的持久性和成功率。在 MNIST 数据集上进行的广泛实验表明，该方法不仅能够绕过防御机制，而且在成功率和持久性方面都比现有的后门攻击更具优势。

Jul, 2022

FLIP：联邦学习中后门缓解的可证明防御框架

本文介绍了一个理论分析及实验研究结果，关于联邦学习在提高隐私保护的同时，如何防止数据或梯度被恶意污染，通过提出反向工程防御方法，可以保证攻击成功率的减少，并提高对抗性的鲁棒性。

Oct, 2022

使用稳健的学习速率防御联邦学习中的后门

本文提出了防范联合学习中后门攻击的一个轻量级的防御方案，该方案通过调整聚合服务器的学习速率来达到目的，在实验中，我们发现我们的防御方案显著优于文献中提出的一些防御措施。

Jul, 2020

攻击尾部：是的，你真的可以破解联邦学习

通过理论分析和实验，研究在分布式机器学习领域，如何有效检测和保护模型免受恶意注入的后门影响。

Jul, 2020

针对纵向联邦学习的实用通用后门攻击

该研究提出了一种名为 BadVFL 的新型攻击方法，旨在向受害模型注入后门触发器，无需标签信息，并通过 SDD 模块和 SDP 模块实现了攻击的高攻击成功率，是一种有效的针对垂直联邦学习中潜在安全风险的方案。

Jun, 2023

非 IID 场景下，基于隐私推理的隐蔽后门攻击联邦学习

本文提出了一种基于多样化数据重建机制和源特定型后门学习策略的隐蔽后门攻击 (PI-SBA) 方案来处理联邦学习中的数据异构、后门攻击、以及隐私推理三个问题，并且经过实验验证，该方案在 MNIST、CIFAR10 和 Youtube 对齐人脸数据集上具有很好的效果，并且可以有效地躲避防御方法的检测。

Jun, 2023

通过无需数据生成触发器来保护联邦学习防止后门攻击

通过学习后门攻击的两个特征，即触发器比正常知识学习得更快，触发器模式对图像分类的影响比正常类模式更大，我们的方法通过生成具有新学习知识的图像，并通过评估这些生成的图像的效果来过滤触发器图像，以确保更新的全局模型是良性的，实验结果表明，我们的方法可以抵御几乎所有现有类型的后门攻击，并在 IID 和 non-IID 场景下优于所有七种最先进的防御方法，尤其是在 80％的恶意客户端存在时依旧能够成功抵御后门攻击。

Aug, 2023

通过去中心化的部分模型训练实现更适合个性化的联邦学习

本文提出了一种名为 DFedAlt 的个性化联邦学习框架，采用分散的部分模型训练方法，取得了与目前最先进的基准模型相媲美或更好的状态。该算法通过依次更新共享和个性化参数，在点对点的方式构建局部个性化模型，同时采用局部 SAM（Sharpness Aware Minimization）优化器来更新共享参数，从而有效地解决了模型共享一致性不足和通信成本过高等问题。

May, 2023