本文重点研究联邦学习（FL）中后门攻击的防御方法，提出一种新的联邦后门攻击框架，通过直接修改局部模型权重注入后门触发器，并与客户端模型联合优化，从而更加单独和隐蔽地绕过现有防御。实证研究表明最近的三大类联邦后门防御机制存在一些缺陷，我们对此提出了建议。

Jan, 2023

该研究综述了最新的后门攻击和防御机制，根据目标（数据污染或模型污染）、攻击阶段（本地数据收集、训练或聚合）和防御阶段（本地训练、聚合前、聚合期间或聚合后）进行了分类。对现有攻击策略和防御机制的优劣进行了详细分析。对现有攻击方法和防御设计进行了对比，指出了值得注意的发现、面临的挑战以及与无线通信网络的安全与隐私相关的潜在未来研究方向。

Dec, 2023

DPOT 是一种基于数据污染的联邦学习后门攻击策略，通过动态构建后门目标并优化后门触发器，使后门数据对模型更新的影响最小化，有效地破坏了最先进的防御机制并在各种数据集上优于现有的后门攻击技术。

May, 2024

通过理论分析和实验，研究在分布式机器学习领域，如何有效检测和保护模型免受恶意注入的后门影响。

Jul, 2020

在个性化联合学习场景中，本文首次研究了后门攻击，并发现部分模型共享的个性化联合学习方法仍然容易受到后门攻击的威胁，提出了三种后门攻击方法，并实验证明这些方法对两种经典个性化联合学习方法的有效性。同时，本文还评估了多种防御策略对这些攻击的有效性，发现梯度范数剪辑策略特别有效。最后，本文呼吁对个性化联合学习场景中的攻击和防御进行进一步研究。

Jul, 2023

本文提出了防范联合学习中后门攻击的一个轻量级的防御方案，该方案通过调整聚合服务器的学习速率来达到目的，在实验中，我们发现我们的防御方案显著优于文献中提出的一些防御措施。

Jul, 2020

本文介绍了一个理论分析及实验研究结果，关于联邦学习在提高隐私保护的同时，如何防止数据或梯度被恶意污染，通过提出反向工程防御方法，可以保证攻击成功率的减少，并提高对抗性的鲁棒性。

Oct, 2022

个性化联邦学习（PFL）系统中存在潜在的后门攻击威胁，这些攻击可以通过优化触发器生成过程来无缝嵌入个性化模型，而现有的防御机制在面对这种攻击时往往显得无力。

Jun, 2024

本文提出一种新的方法 Neurotoxin, 用于对联邦学习系统中的后门攻击进行对抗，它可以攻击在训练过程中变化较小的参数，使得攻击可以更加持久。对十个自然语言处理和计算机视觉任务进行了全面评估，发现该方法可以使最新的后门攻击持久性提高两倍。

Jun, 2022

该研究提出了一种名为 BadVFL 的新型攻击方法，旨在向受害模型注入后门触发器，无需标签信息，并通过 SDD 模块和 SDP 模块实现了攻击的高攻击成功率，是一种有效的针对垂直联邦学习中潜在安全风险的方案。

Jun, 2023