透过对抗性的视角分析联邦学习

ICMLNov, 2018

Analyzing Federated Learning through an Adversarial Lens

Arjun Nitin Bhagoji, Supriyo Chakraborty, Prateek Mittal, Seraphin Calo

TL;DR本篇论文探讨了在联邦学习中的模型污染攻击，通过提出一种交替极小化策略和使用参数估计方法使恶意代理更容易成功攻击，同时提出利用可解释性技术生成模型决策的视觉解释，为联邦学习中的漏洞和防御策略提供了借鉴。

Abstract

federated learning distributes model training among a multitude of agents, who, guided by privacy concerns, perform training using their local data but share only model parameter updates, for iterative aggregatio

federated learning model poisoning adversarial objective privacy concerns training loss

发现论文，激发创造

联邦式机器学习的数据注入攻击

本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

Apr, 2020

攻击自适应聚合的鲁棒联邦学习

针对联邦学习存在的毒化模型和后门攻击等安全威胁，我们提出了一种基于注意力机制的神经网络攻击自适应的聚合策略。我们的方法可以在数据驱动的方式下，有效应对各种攻击，特别是对图像和文本数据集中的模型毒化和后门攻击的防御具有竞争力的表现。

Feb, 2021

缓解联邦学习中的数据注入攻击

我们提出了一种新的技术来检测和缓解联邦学习系统中的数据注入攻击。我们的缓解方法是一个本地方案，在协调节点的单个训练实例中执行，允许在算法收敛时进行缓解。当怀疑一个代理是攻击者时，其数据将在一定时间内被忽略，此决策经常被重新评估。通过仿真实验表明，当协调节点检测到并隔离所有攻击者时，模型会恢复并收敛到可信模型。

Dec, 2023

针对鲁棒联邦学习的恶意客户检测学习

本文提出了一个新的框架，通过使用一个强大的检测模型，中央服务器可以学习来检测和移除恶意模型更新，从而实现有针对性的防御，以确保对拜占庭攻击和有针对性的模型毒化攻击具有鲁棒性的联合学习。

Feb, 2020

FedBayes: 一种用于防御对抗攻击的零信任联邦学习聚合方法

使用贝叶斯统计的 FedBayes 方法可以抵消恶意用户对全局模型的影响，保护整个联邦系统。

Dec, 2023

FedDefender：客户端抗攻击的联邦学习

分散化数据源的联邦学习为学习提供隐私保护，但容易受到恶意客户干扰的模型中毒攻击，因此本文提出了一种名为 FedDefender 的新客户端防御机制，通过攻击容忍的本地元更新和攻击容忍的全局知识蒸馏两个组件，实现对联邦学习的模型中毒攻击的抵御和知识提取，从而提高其鲁棒性。

Jul, 2023

针对联邦学习系统的数据污染攻击

本文研究了面向联邦学习系统的有针对性的数据毒化攻击，通过对恶意参与者的异常检测和排除，提出了一种有效的防御策略。

Jul, 2020

对拜占庭 - 鲁棒联邦学习的本地模型污染攻击

本论文针对联邦学习中的本地模型污染攻击进行了系统研究，经过实验验证，表明该攻击可以显著提高联邦学习方法的误差率，并提出了两种抵御该攻击的方法，需要进一步加强防御。

Nov, 2019

如何后门联邦学习

本文论述了联邦学习的安全问题，指出任何参与者都可以在联邦学习中引入隐藏的后门功能，进而设计了基于替换模型和泛化约束的攻击方式。这种攻击方法可以在短时间内使全局模型对后门任务达到 100％的准确率，并可通过对抗损失函数规避检测方法。

Jul, 2018

虚假还是被篡改？理解联邦学习中的恶意客户

本文通过对文献中提出的各种污染攻击和防御聚合规则进行全面分析，并将它们归纳到一个共同框架下，旨在为从业者和研究人员提供对不同类型的威胁的清晰理解，并确定进一步的研究领域。

Mar, 2024