无线联邦学习中的数据和模型投毒后门攻击及防御机制：综述

Dec, 2023

无线联邦学习中的数据和模型投毒后门攻击及防御机制：综述

Data and Model Poisoning Backdoor Attacks on Wireless Federated Learning, and the Defense Mechanisms: A Comprehensive Survey

PDF

Yichen Wan, Youyang Qu, Wei Ni, Yong Xiang, Longxiang Gao...

TL;DR该研究综述了最新的后门攻击和防御机制，根据目标（数据污染或模型污染）、攻击阶段（本地数据收集、训练或聚合）和防御阶段（本地训练、聚合前、聚合期间或聚合后）进行了分类。对现有攻击策略和防御机制的优劣进行了详细分析。对现有攻击方法和防御设计进行了对比，指出了值得注意的发现、面临的挑战以及与无线通信网络的安全与隐私相关的潜在未来研究方向。

Abstract

Due to the greatly improved capabilities of devices, massive data, and increasing concern about data privacy, federated learning (FL) has been increasingly considered for applications to wireless communication networks<

federated learning wireless communication networks backdoor attacks defense mechanisms security and privacy

发现论文，激发创造

针对联邦学习系统的数据污染攻击

本文研究了面向联邦学习系统的有针对性的数据毒化攻击，通过对恶意参与者的异常检测和排除，提出了一种有效的防御策略。

Jul, 2020

关于联邦学习后门防御漏洞的研究

本文重点研究联邦学习（FL）中后门攻击的防御方法，提出一种新的联邦后门攻击框架，通过直接修改局部模型权重注入后门触发器，并与客户端模型联合优化，从而更加单独和隐蔽地绕过现有防御。实证研究表明最近的三大类联邦后门防御机制存在一些缺陷，我们对此提出了建议。

Jan, 2023

基于联邦学习的无线流量预测中的攻击

通过引入一种新的虚假流量注入（FTI）攻击和一种名为全局局部不一致检测（GLID）的防御机制，对分布式的无线流量预测系统中的安全性进行了充分的实验评估，并在现实世界的无线流量数据集上取得了显著优于现有基线的效果。

Apr, 2024

通过无需数据生成触发器来保护联邦学习防止后门攻击

通过学习后门攻击的两个特征，即触发器比正常知识学习得更快，触发器模式对图像分类的影响比正常类模式更大，我们的方法通过生成具有新学习知识的图像，并通过评估这些生成的图像的效果来过滤触发器图像，以确保更新的全局模型是良性的，实验结果表明，我们的方法可以抵御几乎所有现有类型的后门攻击，并在 IID 和 non-IID 场景下优于所有七种最先进的防御方法，尤其是在 80％的恶意客户端存在时依旧能够成功抵御后门攻击。

Aug, 2023

计算机网络中的数据污染攻击暴露下的联邦学习漏洞

数据污染攻击对于计算机网络领域的严重性进行了实证研究，发现 Label Flipping 攻击易于检测，而 Feature Poisoning 攻击难以被察觉，证明了后者在欺骗服务器方面的重要性。

Mar, 2024

用触发优化的数据毒化在联邦学习中隐藏后门模型更新

DPOT 是一种基于数据污染的联邦学习后门攻击策略，通过动态构建后门目标并优化后门触发器，使后门数据对模型更新的影响最小化，有效地破坏了最先进的防御机制并在各种数据集上优于现有的后门攻击技术。

May, 2024

防止联邦学习中的中毒攻击的 NextG 系统安全保障：一种博弈论解决方案

本研究探讨了分布式学习系统中的毒化攻击和防御交互，特别是在使用深度学习进行无线信号分类的下一代通信（NextG）的背景下。通过利用地理分散的客户端，全局模型的训练在无需客户端交换数据样本的情况下进行，用于保护现有用户识别，促进频谱共享。然而，在这种分布式学习系统中，恶意客户端的存在会增加通过伪造本地模型交换来操纵全局模型的风险。为了解决这一挑战，本文采用主动防御机制，对参与分布式学习系统的客户端的准入或拒绝进行明智决策。结果提供了保护 NextG 通信中分布式学习系统免受毒化攻击的新型操作模式洞察，通过量化攻击和防御在 NextG 通信背景下的性能。

Dec, 2023

如何后门联邦学习

本文论述了联邦学习的安全问题，指出任何参与者都可以在联邦学习中引入隐藏的后门功能，进而设计了基于替换模型和泛化约束的攻击方式。这种攻击方法可以在短时间内使全局模型对后门任务达到 100％的准确率，并可通过对抗损失函数规避检测方法。

Jul, 2018

联邦学习中的后门攻击防御技术 - FedDefender

FedDefender 是针对联邦学习中针对性攻击的一种防御机制，通过差分测试来识别恶意客户端并减少攻击成功率 10％，同时不影响全局模型性能。

Jul, 2023

联邦学习中的漏洞调查：一种学习算法的视角

该综述论文对恶意攻击的联邦学习进行了全面的研究，从攻击来源和目标的新视角进行分类，并深入剖析了其方法和影响。文章对以数据攻击模型、模型攻击数据、模型与模型攻击以及复合攻击为类型的威胁模型进行了讨论，并提出了各种防御策略及其效果、假设和潜在改进方向。作者研究表明，在联邦学习系统的不同阶段，可操纵的学习数据、学习梯度和学习模型的恶意攻击日益增多，其影响范围涵盖了破坏模型性能、重构本地私有数据和注入后门等。此文献综述全面了解当前联邦学习威胁形势，并强调了开发稳健、高效和保护隐私的防御措施对于确保联邦学习在实际应用中的安全与可信采纳的重要性。

Nov, 2023