关于联邦学习后门防御漏洞的研究

AAAIJan, 2023

关于联邦学习后门防御漏洞的研究

On the Vulnerability of Backdoor Defenses for Federated Learning

Pei Fang, Jinghui Chen

TL;DR本文重点研究联邦学习（FL）中后门攻击的防御方法，提出一种新的联邦后门攻击框架，通过直接修改局部模型权重注入后门触发器，并与客户端模型联合优化，从而更加单独和隐蔽地绕过现有防御。实证研究表明最近的三大类联邦后门防御机制存在一些缺陷，我们对此提出了建议。

Abstract

federated learning (FL) is a popular distributed machine learning paradigm that enables jointly training a global model without sharing clients' data. However, its repetitive server-client communication gives room for backdoor attacks with aim to mislead the global model into a targete

federated learning backdoor attacks defense mechanisms local model weights trigger pattern

发现论文，激发创造

使用稳健的学习速率防御联邦学习中的后门

本文提出了防范联合学习中后门攻击的一个轻量级的防御方案，该方案通过调整聚合服务器的学习速率来达到目的，在实验中，我们发现我们的防御方案显著优于文献中提出的一些防御措施。

Jul, 2020

通过无需数据生成触发器来保护联邦学习防止后门攻击

通过学习后门攻击的两个特征，即触发器比正常知识学习得更快，触发器模式对图像分类的影响比正常类模式更大，我们的方法通过生成具有新学习知识的图像，并通过评估这些生成的图像的效果来过滤触发器图像，以确保更新的全局模型是良性的，实验结果表明，我们的方法可以抵御几乎所有现有类型的后门攻击，并在 IID 和 non-IID 场景下优于所有七种最先进的防御方法，尤其是在 80％的恶意客户端存在时依旧能够成功抵御后门攻击。

Aug, 2023

FLIP：联邦学习中后门缓解的可证明防御框架

本文介绍了一个理论分析及实验研究结果，关于联邦学习在提高隐私保护的同时，如何防止数据或梯度被恶意污染，通过提出反向工程防御方法，可以保证攻击成功率的减少，并提高对抗性的鲁棒性。

Oct, 2022

你真的可以后门联邦学习吗？

本文研究联邦学习中的后门攻击及防御，探讨了如何在 EMNIST 数据集上实现防御策略，结论表明采用范数削弱和差分隐私能够有效减轻后门攻击带来的影响，同时开放代码以期鼓励更多研究者参与其中。

Nov, 2019

联邦学习中的后门攻击防御技术 - FedDefender

FedDefender 是针对联邦学习中针对性攻击的一种防御机制，通过差分测试来识别恶意客户端并减少攻击成功率 10％，同时不影响全局模型性能。

Jul, 2023

无线联邦学习中的数据和模型投毒后门攻击及防御机制：综述

该研究综述了最新的后门攻击和防御机制，根据目标（数据污染或模型污染）、攻击阶段（本地数据收集、训练或聚合）和防御阶段（本地训练、聚合前、聚合期间或聚合后）进行了分类。对现有攻击策略和防御机制的优劣进行了详细分析。对现有攻击方法和防御设计进行了对比，指出了值得注意的发现、面临的挑战以及与无线通信网络的安全与隐私相关的潜在未来研究方向。

Dec, 2023

FTA：隐蔽且强大的开关门背门攻击及其对联邦学习的灵活触发

我们提出了一种新的灵活的触发器方法，利用生成触发器函数来实施偷偷摸摸的反向门攻击，以此来绕过联邦学习的防御机制。本文通过在真实数据集上进行的广泛实验验证了我们的攻击策略在分布式学习框架中的有效性和隐蔽性。

Aug, 2023

远程消除后门：去除联邦学习中的痕迹

该文提出了一种基于机器遗忘的方法，使得攻击者可以有效地去除联邦学习中注入的后门，该方法在保证集中模型性能的同时，防止不相关信息的过度遗忘，并通过图像分类方案的全面评估证明了其在多种攻击情境下有效去除后门。

Apr, 2023

攻击尾部：是的，你真的可以破解联邦学习

通过理论分析和实验，研究在分布式机器学习领域，如何有效检测和保护模型免受恶意注入的后门影响。

Jul, 2020

用触发优化的数据毒化在联邦学习中隐藏后门模型更新

DPOT 是一种基于数据污染的联邦学习后门攻击策略，通过动态构建后门目标并优化后门触发器，使后门数据对模型更新的影响最小化，有效地破坏了最先进的防御机制并在各种数据集上优于现有的后门攻击技术。

May, 2024