FedCC: 模型投毒攻击下的强韧联邦学习

Dec, 2022

FedCC: 模型投毒攻击下的强韧联邦学习

FedCC: Robust Federated Learning against Model Poisoning Attacks

Hyejun Jeong, Hamin Son, Seohu Lee, Jayun Hyun, Tai-Myoung Chung

TL;DRFederated Learning 新范式弥补了使用机器或深度学习模型时隐私泄漏的担忧。FedCC 通过比较 net 不同层的标准核对其表示，提供了强大的聚合。实验结果表明，它缓解了非定向和有目的的模型污染或后门攻击，并且在非独立同分布数据环境中也有效。

Abstract

federated learning has emerged to cope with raising concerns about privacy breaches in using Machine or Deep Learning models. This new paradigm allows the leverage of deep learning models in a distributed manner, enhancing privacy preservation. However, the server's blindness to local

federated learning privacy preservation model poisoning attacks aggregation algorithms data heterogeneity

发现论文，激发创造

通过关键参数分析实现抗攻击的联邦学习

本文提出了一种新的防御策略 FedCPA（具有关键参数分析的联邦学习），基于观察到良性本地模型具有相似的前 k 个和后 k 个关键参数集，而恶意本地模型则没有。在多个数据集上进行的不同攻击场景实验表明，我们的模型在防御中毒攻击方面优于现有的防御策略。

Aug, 2023

FedDefender：客户端抗攻击的联邦学习

分散化数据源的联邦学习为学习提供隐私保护，但容易受到恶意客户干扰的模型中毒攻击，因此本文提出了一种名为 FedDefender 的新客户端防御机制，通过攻击容忍的本地元更新和攻击容忍的全局知识蒸馏两个组件，实现对联邦学习的模型中毒攻击的抵御和知识提取，从而提高其鲁棒性。

Jul, 2023

攻击自适应聚合的鲁棒联邦学习

针对联邦学习存在的毒化模型和后门攻击等安全威胁，我们提出了一种基于注意力机制的神经网络攻击自适应的聚合策略。我们的方法可以在数据驱动的方式下，有效应对各种攻击，特别是对图像和文本数据集中的模型毒化和后门攻击的防御具有竞争力的表现。

Feb, 2021

FreqFed: 基于频率分析的联邦学习中缓解污染攻击的方法

FreqFed 是一种新颖的聚合机制，通过将模型更新转换到频域，可以有效过滤掉恶意攻击，无论攻击类型、策略和客户端数据分布，从而在不影响聚合模型的实用性的前提下有效缓解毒化攻击。

Dec, 2023

针对鲁棒联邦学习的恶意客户检测学习

本文提出了一个新的框架，通过使用一个强大的检测模型，中央服务器可以学习来检测和移除恶意模型更新，从而实现有针对性的防御，以确保对拜占庭攻击和有针对性的模型毒化攻击具有鲁棒性的联合学习。

Feb, 2020

联邦式机器学习的数据注入攻击

本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

Apr, 2020

Fed-Credit：具有可信管理的稳健联邦学习

基于可信度管理方案的鲁棒联邦学习方法，可以保护隐私并对抗恶意攻击。

May, 2024

计算机网络中的数据污染攻击暴露下的联邦学习漏洞

数据污染攻击对于计算机网络领域的严重性进行了实证研究，发现 Label Flipping 攻击易于检测，而 Feature Poisoning 攻击难以被察觉，证明了后者在欺骗服务器方面的重要性。

Mar, 2024

缓解联邦学习中的数据注入攻击

我们提出了一种新的技术来检测和缓解联邦学习系统中的数据注入攻击。我们的缓解方法是一个本地方案，在协调节点的单个训练实例中执行，允许在算法收敛时进行缓解。当怀疑一个代理是攻击者时，其数据将在一定时间内被忽略，此决策经常被重新评估。通过仿真实验表明，当协调节点检测到并隔离所有攻击者时，模型会恢复并收敛到可信模型。

Dec, 2023

如何后门联邦学习

本文论述了联邦学习的安全问题，指出任何参与者都可以在联邦学习中引入隐藏的后门功能，进而设计了基于替换模型和泛化约束的攻击方式。这种攻击方法可以在短时间内使全局模型对后门任务达到 100％的准确率，并可通过对抗损失函数规避检测方法。

Jul, 2018