DeepSight: 通过深度模型检查减轻联邦学习中的后门攻击

Jan, 2022

DeepSight: 通过深度模型检查减轻联邦学习中的后门攻击

DeepSight: Mitigating Backdoor Attacks in Federated Learning Through Deep Model Inspection

Phillip Rieger, Thien Duc Nguyen, Markus Miettinen, Ahmad-Reza Sadeghi

TL;DR提出了一种新的基于神经网络的模型过滤方法，称为 DeepSight，旨在对抗联邦学习过程中的后门攻击，并通过基于权重剪辑的防御方法来减轻潜在的后门模型对联邦学习模型的影响。

Abstract

federated learning (FL) allows multiple clients to collaboratively train a Neural Network (NN) model on their private data without revealing the data. Recently, several targeted poisoning attacks against FL have been introduced. These attacks inject a backdoor into the resulting model

federated learning backdoor attacks deepsight neural networks model filtering

发现论文，激发创造

关于联邦学习后门防御漏洞的研究

本文重点研究联邦学习（FL）中后门攻击的防御方法，提出一种新的联邦后门攻击框架，通过直接修改局部模型权重注入后门触发器，并与客户端模型联合优化，从而更加单独和隐蔽地绕过现有防御。实证研究表明最近的三大类联邦后门防御机制存在一些缺陷，我们对此提出了建议。

Jan, 2023

用触发优化的数据毒化在联邦学习中隐藏后门模型更新

DPOT 是一种基于数据污染的联邦学习后门攻击策略，通过动态构建后门目标并优化后门触发器，使后门数据对模型更新的影响最小化，有效地破坏了最先进的防御机制并在各种数据集上优于现有的后门攻击技术。

May, 2024

通过无需数据生成触发器来保护联邦学习防止后门攻击

通过学习后门攻击的两个特征，即触发器比正常知识学习得更快，触发器模式对图像分类的影响比正常类模式更大，我们的方法通过生成具有新学习知识的图像，并通过评估这些生成的图像的效果来过滤触发器图像，以确保更新的全局模型是良性的，实验结果表明，我们的方法可以抵御几乎所有现有类型的后门攻击，并在 IID 和 non-IID 场景下优于所有七种最先进的防御方法，尤其是在 80％的恶意客户端存在时依旧能够成功抵御后门攻击。

Aug, 2023

联邦学习中的反向攻击缓解

本文提出了一种针对联邦学习中后门攻击的新方法：设计一种联邦修剪方法以消除网络中的冗余神经元并调整模型的极端权重值，在 Fashion-MNIST 和 CIFAR-10 等广泛使用的数据集上进行实验证明，该方法可以将平均攻击成功率从 99.7％降低到 1.9％，并只损失 5.5％的测试准确率。

Oct, 2020

连续训练下的联邦后门攻击防御

通过训练两个模型，其中一个不带任何防御机制，另一个结合恶意客户过滤和提前停止以控制攻击成功率，我们提出了防御联邦学习背门攻击的框架 ——“阴影学习”。该框架在理论上受到了证明，并且实验证明了它显著改善了现有的防御措施。

May, 2022

远程消除后门：去除联邦学习中的痕迹

该文提出了一种基于机器遗忘的方法，使得攻击者可以有效地去除联邦学习中注入的后门，该方法在保证集中模型性能的同时，防止不相关信息的过度遗忘，并通过图像分类方案的全面评估证明了其在多种攻击情境下有效去除后门。

Apr, 2023

联邦生成对抗网络医学图像合成中的后门攻击和防御

本文研究了联邦生成对抗网络（FedGANs）中后门攻击的问题，提出了一种高效的防御措施 ——FedDetect。在两个不同模态的医学数据集上进行了实验，表明后门攻击会导致低保真度合成图像，但使用 FedDetect 能够抵御此类攻击，以提高分類性能。

Oct, 2022

DeepSweep：使用数据增强评估减轻 DNN 后门攻击的框架

本文介绍了一种利用数据增强技术来减轻背门攻击与增强深度学习模型鲁棒性的方法，并介绍了一个全面评估这些技术的框架。作者通过综合评估 71 种现有的数据增强函数来发现对于不同的背门攻击，最佳的策略可以有效地减轻八种不同的背门攻击，并超越了五种现有的防御方法，从而能够提高未来 DNN 背门研究的参考工具。

Dec, 2020

深谋远虑：预测他人行动在联邦学习中提升后门攻击

在联邦学习中，我们提出了一种利用攻击者对未来其他客户端的行为，实现后门快速生效并且持续存在的攻击方法，该攻击方法适用于图像分类、下一个单词预测和情感分析等应用。

Oct, 2022

联邦学习中的后门攻击防御技术 - FedDefender

FedDefender 是针对联邦学习中针对性攻击的一种防御机制，通过差分测试来识别恶意客户端并减少攻击成功率 10％，同时不影响全局模型性能。

Jul, 2023