Jun, 2024

面向联邦学习中反向攻击的全过程可靠聚合方法

PDF
TL;DR我们研究提出了一种新的全过程确证的鲁棒聚合（WPCRA）方法和一种新的加权几何中位数估计（WGME）算法，通过在三个阶段（ex-ante、ex-durante 和 ex-post）增强鲁棒性，提高 Federated Learning（FL）对后门攻击的抵抗力。相对于基线方法的比较表明，我们的方法显著提升了 FL 对后门攻击的鲁棒性。
federated learningbackdoor attacksaggregation methodsrobustnesswgme algorithm
发现论文，激发创造
  • 联邦学习中的鲁棒数量感知聚合

    本文提出了一种名为 FedRA 的鲁棒的面向数量感知的聚合算法，旨在实现带有本地数据数量意识并能够防御数量增强攻击的 FL。经过在四个公共数据集上的实验，验证了 FedRA 方法在防御数量增强攻击方面对 FL 的有效性。

    May, 2022

  • 递归欧几里得距离基于鲁棒性聚合技术的联邦学习

    本文讨论了联邦学习中的恶意攻击问题，并提出了一种基于递归欧几里得距离计算的新的强大聚合方法，该方法根据局部模型距离上一个全局模型的距离来分配权重，以便减小数据中毒的效应。实验证明，该算法在准确性方面优于最先进的算法至少 5％，同时将时间复杂度降低不到 55％。

    Mar, 2023

  • FedRDF：面向联邦学习中的毒化攻击的强大动态集成函数

    我们的研究引入了一种新颖的健壮汇聚机制，利用傅里叶变换，能够有效应对复杂攻击，包括恶意行为和模型污染攻击，并且在各种模型污染攻击中表现出优越性能。

    Feb, 2024

  • 拜占庭攻击鲁棒的联邦学习：实现零最优间隙

    本文提出了一种强大的聚合方法，用于联邦学习，可以有效地应对恶意拜占庭攻击，每个用户可以通过多个步骤来更新模型参数，然后将其直接推送到聚合中心，聚合中心利用几何中位数将用户的模型参数进行组合，并通过严格的证明表明，只要恶意攻击者的比例低于一半，我们提出的方法可以达到零最优间隔，并呈线性收敛性。数值结果验证了我们提出方法的有效性。

    Aug, 2023

  • 无线联邦学习中的数据和模型投毒后门攻击及防御机制：综述

    该研究综述了最新的后门攻击和防御机制，根据目标（数据污染或模型污染）、攻击阶段（本地数据收集、训练或聚合）和防御阶段（本地训练、聚合前、聚合期间或聚合后）进行了分类。对现有攻击策略和防御机制的优劣进行了详细分析。对现有攻击方法和防御设计进行了对比，指出了值得注意的发现、面临的挑战以及与无线通信网络的安全与隐私相关的潜在未来研究方向。

    Dec, 2023

  • 联邦学习中的近似加权数据重构攻击

    水平联邦平均（FedAvg）中的参数攻击问题可以通过我们提出的插值近似方法和层次加权损失函数来解决，实验证明我们的方法在图像数据重建方面具有明显的改进。

    Aug, 2023

  • FedTruth: 拜占庭容错和后门抵制的联邦学习框架

    FedTruth 是一种针对 FL 中的模型污染问题的鲁棒防御方法，通过动态聚合权重估计全局模型更新，考虑了所有良性客户的贡献，并在实证研究中证明了其对拜占庭攻击和后门攻击的毒化更新的影响有很好的缓解效果。

    Nov, 2023

  • 联邦学习的鲁棒聚合

    本文提出了一种使用鲁棒集成中位数的方法来实现联邦学习的鲁棒性，该方法使用常数次迭代实现了随机平均值，不仅能保护隐私，而且在计算机视觉和自然语言处理的三个任务中也有较好的性能。

    Dec, 2019

  • 基于残差重新加权的抗攻击联邦学习

    本研究提出了一种新的带有基于残留的重新加权的聚合算法，旨在解决联邦学习中受到攻击后可能会导致全局模型异常的问题，经过实验验证，该算法在标签翻转和后门攻击的情况下表现出了优异的效果，并且提供了理论分析。

    Dec, 2019

  • 构建公平、强韧和高效的联邦学习中的客户端贡献评估

    本论文介绍了一种名为公平、强健且高效的客户评估（FRECA）的方法，用于量化联邦学习（FL）中客户的贡献。该方法使用 FedTruth 框架估计全局模型的真实更新，平衡各个客户的贡献，同时过滤掉恶意客户的影响。FRECA 还能够防御拜占庭攻击并采用了拜占庭弹性聚合算法，同时具备高效性。实验结果表明，FRECA 能够准确高效地量化客户的贡献。

    Feb, 2024