联邦式机器学习的数据注入攻击

Apr, 2020

Data Poisoning Attacks on Federated Machine Learning

Gan Sun, Yang Cong, Jiahua Dong, Qiang Wang, Ji Liu

TL;DR本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

Abstract

federated machine learning which enables resource constrained node devices (e.g., mobile phones and IoT devices) to learn a shared model while keeping the training data local, can provide privacy, security and economic benefits by designing an effective →

federated machine learning data poisoning attacks multi-task learning framework attack on federated learning communication protocol

发现论文，激发创造

针对联邦学习系统的数据污染攻击

本文研究了面向联邦学习系统的有针对性的数据毒化攻击，通过对恶意参与者的异常检测和排除，提出了一种有效的防御策略。

Jul, 2020

计算机网络中的数据污染攻击暴露下的联邦学习漏洞

数据污染攻击对于计算机网络领域的严重性进行了实证研究，发现 Label Flipping 攻击易于检测，而 Feature Poisoning 攻击难以被察觉，证明了后者在欺骗服务器方面的重要性。

Mar, 2024

对拜占庭 - 鲁棒联邦学习的本地模型污染攻击

本论文针对联邦学习中的本地模型污染攻击进行了系统研究，经过实验验证，表明该攻击可以显著提高联邦学习方法的误差率，并提出了两种抵御该攻击的方法，需要进一步加强防御。

Nov, 2019

数字孪生 6G IoT 联邦边缘学习中的毒化攻击：预测性研究

本文针对数字双胞胎 6G 启用的物联网环境中边缘学习的中毒攻击问题进行了预测研究，发现攻击者可以在集中式学习和联邦学习的两种学习设置中进行中毒攻击，并且成功的攻击严重降低了模型的准确性。

Mar, 2023

透过对抗性的视角分析联邦学习

本篇论文探讨了在联邦学习中的模型污染攻击，通过提出一种交替极小化策略和使用参数估计方法使恶意代理更容易成功攻击，同时提出利用可解释性技术生成模型决策的视觉解释，为联邦学习中的漏洞和防御策略提供了借鉴。

Nov, 2018

联邦学习场景下基于深度学习的推荐模型攻击

本篇论文研究了针对联邦学习场景下的基于深度学习的推荐模型的攻击方法，并提出了两种生成毒瘤梯度的策略以有效地破坏目标模型。

Apr, 2022

SparseFed: 通过压缩减少稀有性来减轻联邦学习中的模型污染攻击

本文介绍了一种新颖的防御方法 —— 使用全局的前 k 更新稀疏和设备级别梯度裁剪来减轻模型中毒攻击，并提供了一个理论框架来分析防御对于攻击的鲁棒性和收敛性。同时，本文还通过开源评估验证了其实际效果，涵盖了多个计算机视觉和联邦学习的基准数据集。

Dec, 2021

基于联邦学习的针对性模型投毒攻击防御学习

本研究提出了使用一小部分的防御数据集来防范边缘用例攻击的观点。该模型 LearnDefend 可以估计客户更新是恶意的概率，并学习一个可以标记清洁或污染例子的被毒害数据检测器模型。同时，该学习防御模型在配对优化时还估计客户端的重要性模型。经实验证明，LearnDefend 可以有效地防御目前最先进的攻击方法，并且对防御数据集中清洁样本的大小和噪音具有较强的鲁棒性。

May, 2023

针对鲁棒联邦学习的恶意客户检测学习

本文提出了一个新的框架，通过使用一个强大的检测模型，中央服务器可以学习来检测和移除恶意模型更新，从而实现有针对性的防御，以确保对拜占庭攻击和有针对性的模型毒化攻击具有鲁棒性的联合学习。

Feb, 2020

缓解联邦学习中的数据注入攻击

我们提出了一种新的技术来检测和缓解联邦学习系统中的数据注入攻击。我们的缓解方法是一个本地方案，在协调节点的单个训练实例中执行，允许在算法收敛时进行缓解。当怀疑一个代理是攻击者时，其数据将在一定时间内被忽略，此决策经常被重新评估。通过仿真实验表明，当协调节点检测到并隔离所有攻击者时，模型会恢复并收敛到可信模型。

Dec, 2023