去中心化联邦学习的竞争优势攻击

Oct, 2023

去中心化联邦学习的竞争优势攻击

Competitive Advantage Attacks to Decentralized Federated Learning

Yuqi Jia, Minghong Fang, Neil Zhenqiang Gong

TL;DR分散联邦学习（DFL）使得客户（如医院和银行）在没有中央编排服务器的情况下共同训练机器学习模型。在每个全局训练轮次中，每个客户在自己的训练数据上训练本地模型，然后交换本地模型进行聚合。在本文中，我们提出了 SelfishAttack，一种新的针对 DFL 的攻击方法。SelfishAttack 中，一组自私的客户旨在比其他非自私的客户获得竞争优势，即自私客户的最终学习本地模型比非自私客户的更准确。为实现这一目标，自私客户在每个全局训练轮次中向剩余的非自私客户发送精心制作的本地模型。我们将寻找这种本地模型视为一个优化问题，并提出了解决 DFL 使用不同聚合规则时的方法。从理论上讲，我们证明了我们的方法可以找到优化问题的最优解。实证上，我们展示了 SelfishAttack 成功增加了自私客户最终学习的本地模型与非自私客户之间的准确性差距（竞争优势）。此外，当扩展以增加竞争优势时，SelfishAttack 比毒化攻击实现了更大的准确性差距。

Abstract

decentralized federated learning (DFL) enables clients (e.g., hospitals and banks) to jointly train machine learning models without a central orchestration server. In each global training round, each client trains a local model on its own training data and then they exchange

decentralized federated learning selfishattack competitive advantages local models accuracy gap

发现论文，激发创造

虚假还是被篡改？理解联邦学习中的恶意客户

本文通过对文献中提出的各种污染攻击和防御聚合规则进行全面分析，并将它们归纳到一个共同框架下，旨在为从业者和研究人员提供对不同类型的威胁的清晰理解，并确定进一步的研究领域。

Mar, 2024

拜占庭稳健的分散式联邦学习

我们提出了一种名为 BALANCE 的新算法，通过本地相似性在去中心化中进行拜占庭 - 鲁棒的均值计算，以抵御毒化攻击，并在强凸和非凸设置中建立了 BALANCE 在毒化攻击下的理论收敛保证，大量实验证明 BALANCE 优于现有的分布式联邦学习方法并有效地抵御毒化攻击。

Jun, 2024

联邦学习中的公平攻击

通过控制数据隐私并引入一种新类型的攻击，本论文讨论了在分布式训练中实现公平性的重要性以及对公平性进行攻击的方式。

Nov, 2023

针对联邦学习系统的数据污染攻击

本文研究了面向联邦学习系统的有针对性的数据毒化攻击，通过对恶意参与者的异常检测和排除，提出了一种有效的防御策略。

Jul, 2020

关于分散式联邦学习的调查

去中心化联邦学习解决方案的综述，包括现有的方法和未来的研究方向。

Aug, 2023

DFML：分散式联邦互联学习

我们提出了一种无服务器的去中心化联邦互联模型学习（DFML）框架，通过相互学习和循环改变监督和蒸馏信号的量，有效处理模型和数据异构性，并在各种条件下，在收敛速度和全局准确性上优于流行基准。

Feb, 2024

通用多跳无线网络中去中心化联邦学习的干扰攻击

本研究针对分布式联邦学习过程中的干扰攻击，提出了两种攻击场景并设计了相应算法。在用无线信号分类作为案例的评估中，本研究发现，干扰攻击显著降低了分布式联邦学习的性能，需要进行相关漏洞研究和安全部署。

Jan, 2023

透过对抗性的视角分析联邦学习

本篇论文探讨了在联邦学习中的模型污染攻击，通过提出一种交替极小化策略和使用参数估计方法使恶意代理更容易成功攻击，同时提出利用可解释性技术生成模型决策的视觉解释，为联邦学习中的漏洞和防御策略提供了借鉴。

Nov, 2018

基于区块链的安全分散式学习

提出了基于区块链的分布式联邦学习（BDFL），利用区块链进行分散化模型验证和审计，包括审核委员会、激励机制、信誉模型和动态网络更新协议。评估结果表明，BDFL 在存在 30％恶意客户端的系统中，通过信誉机制实现了快速模型收敛和高准确性。

Oct, 2023

联邦式机器学习的数据注入攻击

本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

Apr, 2020