FedRecover: 使用历史信息从联邦学习的污染攻击中恢复

Oct, 2022

FedRecover: 使用历史信息从联邦学习的污染攻击中恢复

FedRecover: Recovering from Poisoning Attacks in Federated Learning using Historical Information

Xiaoyu Cao, Jinyuan Jia, Zaixi Zhang, Neil Zhenqiang Gong

TL;DR本文提出了一种名为 FedRecover 的方法，可以通过储存全局模型和客户机模型更新的历史信息，利用几种优化策略来恢复准确的全局模型，从而防止对联合学习的攻击。

Abstract

federated learning is vulnerable to poisoning attacks in which malicious clients poison the global model via sending malicious model updates to the server. Existing defenses focus on preventing a small number of

federated learning poisoning attacks robust federated learning methods client model updates fedrecover

发现论文，激发创造

面向联邦学习中高效且可验证的恶意攻击恢复

基于选择性信息存储和自适应模型回滚，我们引入了一种高效且可验证的恢复方法 Crab，能够在恶意攻击被检测出后快速恢复精确的全局模型，且在恢复速度和内存消耗方面持续优于先前的方法。

Jan, 2024

FedDefender：客户端抗攻击的联邦学习

分散化数据源的联邦学习为学习提供隐私保护，但容易受到恶意客户干扰的模型中毒攻击，因此本文提出了一种名为 FedDefender 的新客户端防御机制，通过攻击容忍的本地元更新和攻击容忍的全局知识蒸馏两个组件，实现对联邦学习的模型中毒攻击的抵御和知识提取，从而提高其鲁棒性。

Jul, 2023

对拜占庭 - 鲁棒联邦学习的本地模型污染攻击

本论文针对联邦学习中的本地模型污染攻击进行了系统研究，经过实验验证，表明该攻击可以显著提高联邦学习方法的误差率，并提出了两种抵御该攻击的方法，需要进一步加强防御。

Nov, 2019

针对鲁棒联邦学习的恶意客户检测学习

本文提出了一个新的框架，通过使用一个强大的检测模型，中央服务器可以学习来检测和移除恶意模型更新，从而实现有针对性的防御，以确保对拜占庭攻击和有针对性的模型毒化攻击具有鲁棒性的联合学习。

Feb, 2020

FLDetector: 通过检测恶意客户端来防御模型投毒攻击的联合学习防护方案

FLDetector 是一种检测在联邦学习中恶意客户端的工具，它基于 Cauchy 均值定理和 L-BFGS 对客户端的历史模型更新进行预测，以检测其是否存在不一致性，该方法能够在多种最新的模型投毒攻击中准确检测到恶意客户端，并通过去除这些恶意客户端来提高模型的准确性。

Jul, 2022

FreqFed: 基于频率分析的联邦学习中缓解污染攻击的方法

FreqFed 是一种新颖的聚合机制，通过将模型更新转换到频域，可以有效过滤掉恶意攻击，无论攻击类型、策略和客户端数据分布，从而在不影响聚合模型的实用性的前提下有效缓解毒化攻击。

Dec, 2023

联邦式机器学习的数据注入攻击

本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

Apr, 2020

FedReview：联邦学习中拒绝污染更新的审查机制

该论文介绍了一种名为 FedReview 的评审机制，用于在联邦学习中识别和拒绝潜在的被篡改的模型更新，通过评估结果对模型更新进行排名和统计，并通过多数投票机制在模型聚合过程中移除潜在的被篡改更新。多个数据集上的广泛评估表明，FedReview 在对抗环境中可以帮助服务器学习到一个性能良好的全局模型。

Feb, 2024

基于联邦学习的针对性模型投毒攻击防御学习

本研究提出了使用一小部分的防御数据集来防范边缘用例攻击的观点。该模型 LearnDefend 可以估计客户更新是恶意的概率，并学习一个可以标记清洁或污染例子的被毒害数据检测器模型。同时，该学习防御模型在配对优化时还估计客户端的重要性模型。经实验证明，LearnDefend 可以有效地防御目前最先进的攻击方法，并且对防御数据集中清洁样本的大小和噪音具有较强的鲁棒性。

May, 2023

FLCert：针对攻击的可证明安全的联邦学习

FLCert 是一种基于集成学习方法的联邦学习框架，对有限数量的恶意客户端攻击具有可证明的安全性，通过将客户端分组、使用现有联邦学习算法为每组客户端学习全局模型并在全局模型之间取多数投票来分类测试输入，成功地抵御有限数量的恶意客户端攻击。

Oct, 2022