FTA：隐蔽且强大的开关门背门攻击及其对联邦学习的灵活触发

Aug, 2023

FTA：隐蔽且强大的开关门背门攻击及其对联邦学习的灵活触发

FTA: Stealthy and Robust Backdoor Attack with Flexible Trigger on Federated Learning

Yanqi Qiao, Congwen Chen, Rui Wang, Kaitai Liang

TL;DR我们提出了一种新的灵活的触发器方法，利用生成触发器函数来实施偷偷摸摸的反向门攻击，以此来绕过联邦学习的防御机制。本文通过在真实数据集上进行的广泛实验验证了我们的攻击策略在分布式学习框架中的有效性和隐蔽性。

Abstract

Current backdoor attacks against federated learning (FL) strongly rely on universal triggers or semantic patterns, which can be easily detected and filtered by certain defense mechanisms such as norm clipping, co

backdoor attacks federated learning trigger function stealthy attack fl defenses

发现论文，激发创造

通过无需数据生成触发器来保护联邦学习防止后门攻击

通过学习后门攻击的两个特征，即触发器比正常知识学习得更快，触发器模式对图像分类的影响比正常类模式更大，我们的方法通过生成具有新学习知识的图像，并通过评估这些生成的图像的效果来过滤触发器图像，以确保更新的全局模型是良性的，实验结果表明，我们的方法可以抵御几乎所有现有类型的后门攻击，并在 IID 和 non-IID 场景下优于所有七种最先进的防御方法，尤其是在 80％的恶意客户端存在时依旧能够成功抵御后门攻击。

Aug, 2023

关于联邦学习后门防御漏洞的研究

本文重点研究联邦学习（FL）中后门攻击的防御方法，提出一种新的联邦后门攻击框架，通过直接修改局部模型权重注入后门触发器，并与客户端模型联合优化，从而更加单独和隐蔽地绕过现有防御。实证研究表明最近的三大类联邦后门防御机制存在一些缺陷，我们对此提出了建议。

Jan, 2023

用触发优化的数据毒化在联邦学习中隐藏后门模型更新

DPOT 是一种基于数据污染的联邦学习后门攻击策略，通过动态构建后门目标并优化后门触发器，使后门数据对模型更新的影响最小化，有效地破坏了最先进的防御机制并在各种数据集上优于现有的后门攻击技术。

May, 2024

攻击尾部：是的，你真的可以破解联邦学习

通过理论分析和实验，研究在分布式机器学习领域，如何有效检测和保护模型免受恶意注入的后门影响。

Jul, 2020

使用稳健的学习速率防御联邦学习中的后门

本文提出了防范联合学习中后门攻击的一个轻量级的防御方案，该方案通过调整聚合服务器的学习速率来达到目的，在实验中，我们发现我们的防御方案显著优于文献中提出的一些防御措施。

Jul, 2020

FLIP：联邦学习中后门缓解的可证明防御框架

本文介绍了一个理论分析及实验研究结果，关于联邦学习在提高隐私保护的同时，如何防止数据或梯度被恶意污染，通过提出反向工程防御方法，可以保证攻击成功率的减少，并提高对抗性的鲁棒性。

Oct, 2022

潜伏在暗影中：揭示针对个性化联邦学习的隐蔽后门攻击

个性化联邦学习（PFL）系统中存在潜在的后门攻击威胁，这些攻击可以通过优化触发器生成过程来无缝嵌入个性化模型，而现有的防御机制在面对这种攻击时往往显得无力。

Jun, 2024

远程消除后门：去除联邦学习中的痕迹

该文提出了一种基于机器遗忘的方法，使得攻击者可以有效地去除联邦学习中注入的后门，该方法在保证集中模型性能的同时，防止不相关信息的过度遗忘，并通过图像分类方案的全面评估证明了其在多种攻击情境下有效去除后门。

Apr, 2023

基于联邦学习的隐形多目标后门攻击的双模型替换

本研究设计了一种基于联邦学习的背门攻击方法，利用神经网络和 TrojanGan 隐写模型实现了背门触发器的隐蔽和多样化，同时通过多重触发器提高了背门攻击的鲁棒性，实验结果表明该方法在联邦学习中具有高背门隐蔽性、触发器形式多样性以及对多目标攻击具有较好的攻击成功率。

Apr, 2024

针对纵向联邦学习的实用通用后门攻击

该研究提出了一种名为 BadVFL 的新型攻击方法，旨在向受害模型注入后门触发器，无需标签信息，并通过 SDD 模块和 SDP 模块实现了攻击的高攻击成功率，是一种有效的针对垂直联邦学习中潜在安全风险的方案。

Jun, 2023