CVPRMar, 2023

STDLens：面向目标检测的模型劫持鲁棒联邦学习

PDF
TL;DR本文提出了一种名为 STDLens 的三层取证框架，以保护联邦学习（FL）免受模型劫持的攻击。通过识别和驱逐 Trojaned 梯度，STDLens 可以对不同的模型劫持攻击进行保护，并且在识别和删除 Trojaned 梯度方面的精度和假阳性率方面均优于现有的方法。
federated learningobject detectionmodel hijackingstdlenstrojaned gradients
发现论文，激发创造
  • 从表示的角度可证明抵御联邦学习中的隐私泄露

    本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御 DLG 和 GS 攻击的同时能够将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。

    Dec, 2020

  • 研究反对抗联邦学习模型在物联网频谱传感器中检测网络攻击的鲁棒性

    该论文介绍了一种联邦学习方法，以检测针对由资源受限的频谱传感器管理的数据的攻击，通过创建适合 FL 的新数据集，将肆意加入的参与者调整到 33％以及四种聚合函数来提高模型的鲁棒性。

    Jan, 2022

  • 联邦学习中的漏洞调查：一种学习算法的视角

    该综述论文对恶意攻击的联邦学习进行了全面的研究，从攻击来源和目标的新视角进行分类，并深入剖析了其方法和影响。文章对以数据攻击模型、模型攻击数据、模型与模型攻击以及复合攻击为类型的威胁模型进行了讨论，并提出了各种防御策略及其效果、假设和潜在改进方向。作者研究表明，在联邦学习系统的不同阶段，可操纵的学习数据、学习梯度和学习模型的恶意攻击日益增多，其影响范围涵盖了破坏模型性能、重构本地私有数据和注入后门等。此文献综述全面了解当前联邦学习威胁形势，并强调了开发稳健、高效和保护隐私的防御措施对于确保联邦学习在实际应用中的安全与可信采纳的重要性。

    Nov, 2023

  • 联邦学习中模型的深度泄漏

    本文提出了两个新的框架，证明在联合学习的情况下传输模型权重也可能会泄露客户端的本地数据，同时介绍了两种对抗措施和评估其保护效果。

    Jun, 2022

  • FLIP：联邦学习中后门缓解的可证明防御框架

    本文介绍了一个理论分析及实验研究结果，关于联邦学习在提高隐私保护的同时，如何防止数据或梯度被恶意污染，通过提出反向工程防御方法，可以保证攻击成功率的减少，并提高对抗性的鲁棒性。

    Oct, 2022

  • FLDetector: 通过检测恶意客户端来防御模型投毒攻击的联合学习防护方案

    FLDetector 是一种检测在联邦学习中恶意客户端的工具，它基于 Cauchy 均值定理和 L-BFGS 对客户端的历史模型更新进行预测，以检测其是否存在不一致性，该方法能够在多种最新的模型投毒攻击中准确检测到恶意客户端，并通过去除这些恶意客户端来提高模型的准确性。

    Jul, 2022

  • 5G 网络安全联邦学习框架

    本文提出了一种基于区块链的安全联邦学习框架，通过构建智能合约，自动执行防御策略，识别恶意攻击参与者，同时采用本地差分私有化技术，有效地防止中毒和成员推断攻击。

    May, 2020

  • 联邦学习中的隐私与鲁棒性：攻击与防御

    在这篇综述性论文中，作者重点介绍基于联邦学习的系统在应对恶意攻击、保障隐私方面所面临的问题，特别关注如何提高系统鲁棒性和隐私保护措施。

    Dec, 2020

  • TrustFed：一种具有恶意攻击抵抗能力的可靠联邦学习框架

    提出了一种层次化审计的联邦学习（HiAudit-FL）框架，使用模型审计和参数审计两个阶段来增强学习过程的可靠性和安全性，并通过基于扩散模型的 AI-Enabled 审计选择策略（ASS）和深度强化学习（DRL）框架设计了高效的 DRL-ASS 算法来识别和处理潜在的恶意用户。

    Dec, 2023

  • 处理联合学习中无限陈旧问题：数据与设备异构相互交织

    在联邦学习中，通过使用梯度反转技术将旧的模型更新转换为新的模型更新，我们提出了一种新的框架来有效地解决客户端模型更新的过时性问题，实验证明，我们的方法可以显著提高训练模型的准确性高达 20％，并加速联邦学习进程高达 35％。

    Sep, 2023