FedCut: 一种可靠检测拜占庭勾结者的谱分析框架

Nov, 2022

FedCut: 一种可靠检测拜占庭勾结者的谱分析框架

FedCut: A Spectral Analysis Framework for Reliable Detection of Byzantine Colluders

Hanlin Gu, Lixin Fan, Xingxing Tang, Qiang Yang

TL;DR该论文提出了一种基于频谱分析的泛化框架，用于应对联邦学习中由恶意攻击者或勾结者上传恶意模型更新所导致的安全风险，并利用带权重图的社区检测方法来识别恶意参与者，实验证明该方法表现优秀，平均模型性能比该领域最先进的方法提高了 2.1％至 16.5％，而在最坏情况下，可以比这些方法提高 17.6％至 69.5％的模型性能。

Abstract

This paper proposes a general spectral analysis framework that thwarts a security risk in federated learning caused by groups of malicious Byzantine attackers or colluders, who conspire to upload vicious model up

spectral analysis federated learning byzantine colluders community detection problem model performance

发现论文，激发创造

FedTruth: 拜占庭容错和后门抵制的联邦学习框架

FedTruth 是一种针对 FL 中的模型污染问题的鲁棒防御方法，通过动态聚合权重估计全局模型更新，考虑了所有良性客户的贡献，并在实证研究中证明了其对拜占庭攻击和后门攻击的毒化更新的影响有很好的缓解效果。

Nov, 2023

拜占庭鲁棒聚类联邦学习

本文讨论了联邦学习中拜占庭机器的对抗攻击问题，提出了一种具有鲁棒性的迭代联邦聚类算法来识别非拜占庭机器的集群成员身份并优化每个集群学习的模型。

Jun, 2023

具有可证明的拜占庭鲁棒性的联邦共形预测

在分布式数据样本中，介绍了 Rob-FCP 框架用于对付具有恶意客户端的鲁棒联邦一致性预测，理论上证明了 Rob-FCP 的一致性覆盖界限，并展示了 Rob-FCP 在拜占庭场景下与期望覆盖水平渐近接近，同时提出了一个用于估计恶意客户端数量的方法，在多种拜占庭攻击下，在五个标准基准和实际医疗数据集上经验证明了 Rob-FCP 的鲁棒性。

Jun, 2024

通过自适应模型平均实现拜占庭鲁棒的联邦机器学习

本文介绍了一种名为自适应联邦平均的新型算法，该算法利用隐藏马尔可夫模型来检测参与者在训练期间提供的模型更新质量，并提出一种鲁棒聚合规则以检测和丢弃每次训练迭代中的不良或恶意本地模型更新以及阻止不需要的参与者，从而在处理噪声、故障和恶意参与者时具有更高的鲁棒性和计算效率。

Sep, 2019

拜占庭人也可以从历史中学习：联邦学习中心裁剪的失败

本文研究使用 Momentum 和 Centered Clipping 框架改进联邦学习中的安全性，但发现 Centered Clipping 框架存在攻击漏洞，提出新的攻击策略可以规避该框架的防御，并对其产生的影响进行数值分析。

Aug, 2022

FLTrust: 通过信任引导实现拜占庭容错联邦学习

FLTrust 是一种新的联邦学习方法，它通过服务提供商收集干净的培训数据集来引导信任，对客户端的本地模型更新进行信任评分，并进行标准化处理，从而降低了来自恶意客户端的影响，最终计算加权平均并用于更新全局模型。

Dec, 2020

拜占庭攻击鲁棒的联邦学习：实现零最优间隙

本文提出了一种强大的聚合方法，用于联邦学习，可以有效地应对恶意拜占庭攻击，每个用户可以通过多个步骤来更新模型参数，然后将其直接推送到聚合中心，聚合中心利用几何中位数将用户的模型参数进行组合，并通过严格的证明表明，只要恶意攻击者的比例低于一半，我们提出的方法可以达到零最优间隔，并呈线性收敛性。数值结果验证了我们提出方法的有效性。

Aug, 2023

FedCC: 模型投毒攻击下的强韧联邦学习

Federated Learning 新范式弥补了使用机器或深度学习模型时隐私泄漏的担忧。FedCC 通过比较 net 不同层的标准核对其表示，提供了强大的聚合。实验结果表明，它缓解了非定向和有目的的模型污染或后门攻击，并且在非独立同分布数据环境中也有效。

Dec, 2022

联邦学习中缓解拜占庭攻击的挑战和方法

该研究论文对联邦学习中的拜占庭攻击进行了全面调查和分析，对现有防御方案进行了对比和讨论，并提出了一种新的拜占庭攻击方法称为权重攻击，由此揭示目前防御方案对联邦学习中的拜占庭攻击的局限性，并探讨了未来的研究方向和挑战。

Dec, 2021

激进或隐蔽，或者两者兼具：联邦学习中网络剪枝辅助的混合拜占庭节点

通过提取与神经网络拓扑特定的一定侧面信息，我们提出了一种混合稀疏拜占庭攻击，该攻击由两部分组成：一部分表现出稀疏特性，只攻击具有较高敏感性的神经网络位置，另一部分更加隐匿且随着时间积累，理想上每部分针对不同类型的防御机制，二者共同形成一种强大但不易察觉的攻击。最后，通过广泛模拟证明了所提出的混合拜占庭攻击对 8 种不同的防御方法是有效的。

Apr, 2024