联邦学习中安全聚合的样本重新 ATTRIBUTION 攻击（SRATTA）

ICMLJun, 2023

联邦学习中安全聚合的样本重新 ATTRIBUTION 攻击（SRATTA）

SRATTA : Sample Re-ATTribution Attack of Secure Aggregation in Federated Learning

Tanguy Marchand, Régis Loeb, Ulysse Marteau-Ferey, Jean Ogier du Terrail, Arthur Pignet

TL;DR在跨部门的联邦学习模式中使用 SRATTA 攻击方法能容易地使数据被泄露并对模型安全形成威胁，而为了保证隐私，我们需要采取一些积极的防御措施。

Abstract

We consider a cross-silo federated learning (FL) setting where a machine learning model with a fully connected first layer is trained between different clients and a central server using FedAvg, and where the aggregation step can be performed with →

cross-silo federated learning secure aggregation privacy machine learning model attack

发现论文，激发创造

联邦学习中一种新型属性重构攻击

本文研究了联邦学习中的隐私保护问题，提出了一种使用每周期平均梯度进行的属性重构攻击方法，并验证了其在真实数据集上的有效性。

Aug, 2021

攻击自适应聚合的鲁棒联邦学习

针对联邦学习存在的毒化模型和后门攻击等安全威胁，我们提出了一种基于注意力机制的神经网络攻击自适应的聚合策略。我们的方法可以在数据驱动的方式下，有效应对各种攻击，特别是对图像和文本数据集中的模型毒化和后门攻击的防御具有竞争力的表现。

Feb, 2021

联邦学习中的近似加权数据重构攻击

水平联邦平均（FedAvg）中的参数攻击问题可以通过我们提出的插值近似方法和层次加权损失函数来解决，实验证明我们的方法在图像数据重建方面具有明显的改进。

Aug, 2023

针对长尾数据的联邦学习安全聚合

本文针对联邦学习中数据不均衡和拜占庭节点攻击的问题，提出了一种新的两层聚合方法和智囊团概念，用于拒绝恶意模型和选出包含尾部类别数据信息的有价值模型进行全局聚合，初步实验证明智囊团对于全局聚合进行有效的模型选择。

Jul, 2023

联邦学习中的鲁棒数量感知聚合

本文提出了一种名为 FedRA 的鲁棒的面向数量感知的聚合算法，旨在实现带有本地数据数量意识并能够防御数量增强攻击的 FL。经过在四个公共数据集上的实验，验证了 FedRA 方法在防御数量增强攻击方面对 FL 的有效性。

May, 2022

利用基于强化学习的聚合，在联邦学习中防御复杂的中毒攻击

通过观察数据分布的稳定性，我们提出了 AdaAggRL，一种基于强化学习的自适应聚合方法，用于防御复杂的恶意攻击。实验证明，该防御模型在四个真实数据集上显著优于广泛采用的防护模型。

Jun, 2024

RFLPA：一种抵御污染攻击的鲁棒联邦学习框架并具有安全聚合

我们提出了一种基于安全聚合协议的抵御毒化攻击的强韧联邦学习框架（RFLPA），该框架通过计算本地更新和服务器更新之间的余弦相似度来进行鲁棒聚合。此外，我们利用可验证的打包 Shamir 秘密共享来实现每个用户的通信成本降低为 O（M + N），并设计一种新颖的点积聚合算法来解决信息泄露增加的问题。我们的实验结果显示，与最先进的方法 BREA 相比，RFLPA 在保持竞争性准确性的同时显著减少了 75％以上的通信和计算开销。

May, 2024

基于残差重新加权的抗攻击联邦学习

本研究提出了一种新的带有基于残留的重新加权的聚合算法，旨在解决联邦学习中受到攻击后可能会导致全局模型异常的问题，经过实验验证，该算法在标签翻转和后门攻击的情况下表现出了优异的效果，并且提供了理论分析。

Dec, 2019

打破安全聚合：联邦学习中通过聚合梯度泄漏标签

提出一种隐蔽标签推断攻击绕过安全聚合从而恢复个体客户的私有标签，并通过理论分析和实验证明该攻击可以在各种数据集和模型架构上以 100％的准确性实现大规模标签恢复。

Jun, 2024

梯度分解：通过重构用户参与矩阵打破联合学习的隐私

通过聚合模型更新，掌握联邦学习中的用户隐私信息可能存在风险，破坏了联邦学习的数据安全，研究展示了一种攻击方法，通过聚合的模型更新重建用户和其私有训练数据之间的联系，属于一种细致入微、平行操作并具有较高灵敏度的推断攻击。

Jun, 2021