非 IID 场景下，基于隐私推理的隐蔽后门攻击联邦学习

Jun, 2023

非 IID 场景下，基于隐私推理的隐蔽后门攻击联邦学习

Privacy Inference-Empowered Stealthy Backdoor Attack on Federated Learning under Non-IID Scenarios

Haochen Mei, Gaolei Li, Jun Wu, Longfei Zheng

TL;DR本文提出了一种基于多样化数据重建机制和源特定型后门学习策略的隐蔽后门攻击 (PI-SBA) 方案来处理联邦学习中的数据异构、后门攻击、以及隐私推理三个问题，并且经过实验验证，该方案在 MNIST、CIFAR10 和 Youtube 对齐人脸数据集上具有很好的效果，并且可以有效地躲避防御方法的检测。

Abstract

federated learning (FL) naturally faces the problem of data heterogeneity in real-world scenarios, but this is often overlooked by studies on FL security and privacy. On the one hand, the effectiveness of

federated learning data heterogeneity backdoor attacks privacy inference non-iid scenarios

发现论文，激发创造

潜伏在暗影中：揭示针对个性化联邦学习的隐蔽后门攻击

个性化联邦学习（PFL）系统中存在潜在的后门攻击威胁，这些攻击可以通过优化触发器生成过程来无缝嵌入个性化模型，而现有的防御机制在面对这种攻击时往往显得无力。

Jun, 2024

个性化联邦学习的后门攻击

在个性化联合学习场景中，本文首次研究了后门攻击，并发现部分模型共享的个性化联合学习方法仍然容易受到后门攻击的威胁，提出了三种后门攻击方法，并实验证明这些方法对两种经典个性化联合学习方法的有效性。同时，本文还评估了多种防御策略对这些攻击的有效性，发现梯度范数剪辑策略特别有效。最后，本文呼吁对个性化联合学习场景中的攻击和防御进行进一步研究。

Jul, 2023

Fedward：非独立同分布数据下的灵活联邦后门防御框架

提出了一个灵活的联邦后门防御框架 (Fedward)，使用放大幅度稀疏化（AmGrad）和自适应 OPTICS 聚类（AutoOPTICS）以及自适应剪裁方法来确保在保留性能的同时消除对抗性后门攻击 (FBA)，实验结果表明 Fedward 可以取得很好的防御效果。

Jul, 2023

基于 GAN 数据合成的联合学习用于非独立同分布客户端

该研究提出了一种名为 Synthetic Data Aided Federated Learning (SDA-FL) 的新框架，通过共享人工合成数据来解决客户端数据的不独立和同分布性问题，从而提高本地模型的一致性并改善全局聚合效果。

Jun, 2022

技术报告：基于全体群体知识对齐协助后门联邦学习

本文提出一种利用联邦学习（FL）模型信息泄漏强化早期注入的单次后门攻击的方法，即在 FL 模型收敛时注入后门攻击。作者提出了一个两阶段后门攻击，通过预备阶段对本地数据进行分布推断攻击并基于推断结果制定本地数据集，以及在注入后门攻击时根据 FL 模型信息泄漏进行调整，提高攻击的持久性和成功率。在 MNIST 数据集上进行的广泛实验表明，该方法不仅能够绕过防御机制，而且在成功率和持久性方面都比现有的后门攻击更具优势。

Jul, 2022

BayBFed: 贝叶斯反门限防御联邦学习

本文提出了一种名为 BayBFed 的新型背门攻击防御框架，其利用客户端更新的概率分布来检测联邦学习中的恶意更新，并成功地在五个基准数据集上进行了广泛评估。

Jan, 2023

从表示的角度可证明抵御联邦学习中的隐私泄露

本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御 DLG 和 GS 攻击的同时能够将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。

Dec, 2020

联邦学习中的梯度泄漏

该研究全面研究了联邦学习系统中梯度反演攻击的实际效用，通过对该攻击在实践中的限制进行理论和实证评估，揭示了梯度反演攻击在实际情境下的局限性，并提出了一些有效的防御措施。

Apr, 2024

ARIBA: 面向联邦学习中后门攻击的准确与鲁棒识别

本文提出了一种名为 ARIBA 的新方法，它能够准确、有力地识别联邦学习中的后门攻击，并通过使用 CNN 层的过滤器和无监督异常检测来为每个客户端计算异常值以识别最可疑的客户端。经过大量实验证明，ARIBA 方法可以有效地防御多种最先进的攻击，而不会降低模型的性能。

Feb, 2022

打破安全聚合：联邦学习中通过聚合梯度泄漏标签

提出一种隐蔽标签推断攻击绕过安全聚合从而恢复个体客户的私有标签，并通过理论分析和实验证明该攻击可以在各种数据集和模型架构上以 100％的准确性实现大规模标签恢复。

Jun, 2024