FreqFed: 基于频率分析的联邦学习中缓解污染攻击的方法

Dec, 2023

FreqFed: 基于频率分析的联邦学习中缓解污染攻击的方法

FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning

Hossein Fereidooni, Alessandro Pegoraro, Phillip Rieger, Alexandra Dmitrienko, Ahmad-Reza Sadeghi

TL;DRFreqFed 是一种新颖的聚合机制，通过将模型更新转换到频域，可以有效过滤掉恶意攻击，无论攻击类型、策略和客户端数据分布，从而在不影响聚合模型的实用性的前提下有效缓解毒化攻击。

Abstract

federated learning (FL) is a collaborative learning paradigm allowing multiple clients to jointly train a model without sharing their training data. However, FL is susceptible to poisoning attacks, in which the a

federated learning poisoning attacks defense mechanisms freqfed aggregation mechanism

发现论文，激发创造

FedRDF：面向联邦学习中的毒化攻击的强大动态集成函数

我们的研究引入了一种新颖的健壮汇聚机制，利用傅里叶变换，能够有效应对复杂攻击，包括恶意行为和模型污染攻击，并且在各种模型污染攻击中表现出优越性能。

Feb, 2024

针对联邦学习系统的数据污染攻击

本文研究了面向联邦学习系统的有针对性的数据毒化攻击，通过对恶意参与者的异常检测和排除，提出了一种有效的防御策略。

Jul, 2020

联邦学习中的异质性好还是坏：FedVal

本论文提出了一种名为 FedVal 的新方法，该方法基于服务器端验证方法，使用创新的评分函数来评估客户端更新，并确定本地训练模型之间的最佳聚合平衡，从而提高鲁棒性和公平性，同时维护差分隐私的系统能力。在 CIFAR-10，FEMNIST 和 PUMS ACSIncome 数据集上的广泛实验证明了我们的方法的有效性，实现了最先进的性能。

Jun, 2023

计算机网络中的数据污染攻击暴露下的联邦学习漏洞

数据污染攻击对于计算机网络领域的严重性进行了实证研究，发现 Label Flipping 攻击易于检测，而 Feature Poisoning 攻击难以被察觉，证明了后者在欺骗服务器方面的重要性。

Mar, 2024

精确引导方法应对联邦学习中的数据投毒攻击

FedZZ 通过使用基于区域的偏离更新（ZBDU）机制来有效对抗联邦学习中的数据污染攻击，同时还引入了一种精确引导的方法来主动对客户端集群进行特征化，从而帮助识别和丢弃服务器上的恶意更新。在对 CIFAR10 和 EMNIST 这两个广泛认可的数据集进行的评估中，FedZZ 证明了在单个和多个客户端攻击情景以及不同攻击强度下，其在抵御数据污染攻击方面的有效性超过了现有技术方法的表现。此外，在面对日益增长的污染率时，相比现有技术，FedZZ 达到的模型准确性显示出更强的韧性。例如，当存在 50% 的恶意客户端时，FedZZ 的准确性保持在 67.43%，而第二好的解决方案 FL-Defender 的准确性降至 43.36%。

Apr, 2024

虚假还是被篡改？理解联邦学习中的恶意客户

本文通过对文献中提出的各种污染攻击和防御聚合规则进行全面分析，并将它们归纳到一个共同框架下，旨在为从业者和研究人员提供对不同类型的威胁的清晰理解，并确定进一步的研究领域。

Mar, 2024

联邦学习中的鲁棒数量感知聚合

本文提出了一种名为 FedRA 的鲁棒的面向数量感知的聚合算法，旨在实现带有本地数据数量意识并能够防御数量增强攻击的 FL。经过在四个公共数据集上的实验，验证了 FedRA 方法在防御数量增强攻击方面对 FL 的有效性。

May, 2022

FedDefender：客户端抗攻击的联邦学习

分散化数据源的联邦学习为学习提供隐私保护，但容易受到恶意客户干扰的模型中毒攻击，因此本文提出了一种名为 FedDefender 的新客户端防御机制，通过攻击容忍的本地元更新和攻击容忍的全局知识蒸馏两个组件，实现对联邦学习的模型中毒攻击的抵御和知识提取，从而提高其鲁棒性。

Jul, 2023

联邦式机器学习的数据注入攻击

本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

Apr, 2020

FedCC: 模型投毒攻击下的强韧联邦学习

Federated Learning 新范式弥补了使用机器或深度学习模型时隐私泄漏的担忧。FedCC 通过比较 net 不同层的标准核对其表示，提供了强大的聚合。实验结果表明，它缓解了非定向和有目的的模型污染或后门攻击，并且在非独立同分布数据环境中也有效。

Dec, 2022