分散化数据源的联邦学习为学习提供隐私保护，但容易受到恶意客户干扰的模型中毒攻击，因此本文提出了一种名为 FedDefender 的新客户端防御机制，通过攻击容忍的本地元更新和攻击容忍的全局知识蒸馏两个组件，实现对联邦学习的模型中毒攻击的抵御和知识提取，从而提高其鲁棒性。

Jul, 2023

FreqFed 是一种新颖的聚合机制，通过将模型更新转换到频域，可以有效过滤掉恶意攻击，无论攻击类型、策略和客户端数据分布，从而在不影响聚合模型的实用性的前提下有效缓解毒化攻击。

Dec, 2023

本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

Apr, 2020

本研究提出了使用一小部分的防御数据集来防范边缘用例攻击的观点。该模型 LearnDefend 可以估计客户更新是恶意的概率，并学习一个可以标记清洁或污染例子的被毒害数据检测器模型。同时，该学习防御模型在配对优化时还估计客户端的重要性模型。经实验证明，LearnDefend 可以有效地防御目前最先进的攻击方法，并且对防御数据集中清洁样本的大小和噪音具有较强的鲁棒性。

May, 2023

我们的研究引入了一种新颖的健壮汇聚机制，利用傅里叶变换，能够有效应对复杂攻击，包括恶意行为和模型污染攻击，并且在各种模型污染攻击中表现出优越性能。

Feb, 2024

本篇论文探讨了联邦学习的自由骑手攻击问题，并提出了一种新的高维异常检测方法 STD-DAGMM 用于检测这种攻击。

Nov, 2019

本文介绍了一种新颖的防御方法 —— 使用全局的前 k 更新稀疏和设备级别梯度裁剪来减轻模型中毒攻击，并提供了一个理论框架来分析防御对于攻击的鲁棒性和收敛性。同时，本文还通过开源评估验证了其实际效果，涵盖了多个计算机视觉和联邦学习的基准数据集。

Dec, 2021

我们提出了一种新的技术来检测和缓解联邦学习系统中的数据注入攻击。我们的缓解方法是一个本地方案，在协调节点的单个训练实例中执行，允许在算法收敛时进行缓解。当怀疑一个代理是攻击者时，其数据将在一定时间内被忽略，此决策经常被重新评估。通过仿真实验表明，当协调节点检测到并隔离所有攻击者时，模型会恢复并收敛到可信模型。

Dec, 2023

Federated Learning 新范式弥补了使用机器或深度学习模型时隐私泄漏的担忧。FedCC 通过比较 net 不同层的标准核对其表示，提供了强大的聚合。实验结果表明，它缓解了非定向和有目的的模型污染或后门攻击，并且在非独立同分布数据环境中也有效。

Dec, 2022

本文研究了面向联邦学习系统的有针对性的数据毒化攻击，通过对恶意参与者的异常检测和排除，提出了一种有效的防御策略。

Jul, 2020