拜占庭人也可以从历史中学习：联邦学习中心裁剪的失败

Aug, 2022

拜占庭人也可以从历史中学习：联邦学习中心裁剪的失败

Byzantines can also Learn from History: Fall of Centered Clipping in Federated Learning

Kerem Ozfatura, Emre Ozfatura, Alptekin Kupcu, Deniz Gunduz

TL;DR本文研究使用 Momentum 和 Centered Clipping 框架改进联邦学习中的安全性，但发现 Centered Clipping 框架存在攻击漏洞，提出新的攻击策略可以规避该框架的防御，并对其产生的影响进行数值分析。

Abstract

The increasing popularity of the federated learning framework due to its success in a wide range of collaborative learning tasks also induces certain security concerns regarding the learned model due to the possibility of malicious clients participating in the learning process. Hence,

federated learning byzantine attacks momentum centered clipping defense strategy

发现论文，激发创造

拜占庭鲁棒聚类联邦学习

本文讨论了联邦学习中拜占庭机器的对抗攻击问题，提出了一种具有鲁棒性的迭代联邦聚类算法来识别非拜占庭机器的集群成员身份并优化每个集群学习的模型。

Jun, 2023

联邦学习中缓解拜占庭攻击的挑战和方法

该研究论文对联邦学习中的拜占庭攻击进行了全面调查和分析，对现有防御方案进行了对比和讨论，并提出了一种新的拜占庭攻击方法称为权重攻击，由此揭示目前防御方案对联邦学习中的拜占庭攻击的局限性，并探讨了未来的研究方向和挑战。

Dec, 2021

从历史中学习的拜占庭鲁棒优化

该论文研究了分布式和联邦学习中拜占庭容错性的问题，提出了两种新的稳健算法来解决已有算法的缺陷，并提供了代码解决方案。

Dec, 2020

激进或隐蔽，或者两者兼具：联邦学习中网络剪枝辅助的混合拜占庭节点

通过提取与神经网络拓扑特定的一定侧面信息，我们提出了一种混合稀疏拜占庭攻击，该攻击由两部分组成：一部分表现出稀疏特性，只攻击具有较高敏感性的神经网络位置，另一部分更加隐匿且随着时间积累，理想上每部分针对不同类型的防御机制，二者共同形成一种强大但不易察觉的攻击。最后，通过广泛模拟证明了所提出的混合拜占庭攻击对 8 种不同的防御方法是有效的。

Apr, 2024

拜占庭攻击鲁棒的联邦学习：实现零最优间隙

本文提出了一种强大的聚合方法，用于联邦学习，可以有效地应对恶意拜占庭攻击，每个用户可以通过多个步骤来更新模型参数，然后将其直接推送到聚合中心，聚合中心利用几何中位数将用户的模型参数进行组合，并通过严格的证明表明，只要恶意攻击者的比例低于一半，我们提出的方法可以达到零最优间隔，并呈线性收敛性。数值结果验证了我们提出方法的有效性。

Aug, 2023

拜占庭健壮性和部分参与可以同时实现：只需裁剪梯度差异

提出了一种具有客户端抽样和对拜占庭工作者的可证明容错性的分布式方法。通过梯度剪裁控制递归方差减少中的随机梯度差异来限制拜占庭工作者可能造成的潜在危害，并且结合通信压缩来提高通信效率。在相当一般的假设下，证明了该方法的收敛速度与现有的理论结果相匹配。

Nov, 2023

具有方差减少和差分隐私的拜占庭鲁棒联邦学习

提出了基于差分隐私机制的稀疏化和动量驱动的方差减少方法，以防御拜占庭攻击，并保证演算法的客户端隐私保障。通过与现有方法的比较实验证明了该框架提高了系统的强韧性，并取得了较强的隐私保证。

Sep, 2023

FedTruth: 拜占庭容错和后门抵制的联邦学习框架

FedTruth 是一种针对 FL 中的模型污染问题的鲁棒防御方法，通过动态聚合权重估计全局模型更新，考虑了所有良性客户的贡献，并在实证研究中证明了其对拜占庭攻击和后门攻击的毒化更新的影响有很好的缓解效果。

Nov, 2023

拜占庭稳健的分散式联邦学习

我们提出了一种名为 BALANCE 的新算法，通过本地相似性在去中心化中进行拜占庭 - 鲁棒的均值计算，以抵御毒化攻击，并在强凸和非凸设置中建立了 BALANCE 在毒化攻击下的理论收敛保证，大量实验证明 BALANCE 优于现有的分布式联邦学习方法并有效地抵御毒化攻击。

Jun, 2024

拜占庭分布式学习的隐形漏洞

本文提出了一种新的聚合规则 Bulyan，可以有效地保护分布式随机梯度下降算法免受对抗攻击，缩小攻击者留下的空间，并提高算法的收敛性能。

Feb, 2018