Mar, 2024

分析部分共享对在线联邦学习抵御模型投毒攻击的影响

PDF
TL;DR评估了部分共享在线联邦学习（PSO-Fed）算法对抗模型投毒攻击的韧性。通过分析 PSO-Fed 在存在拜占庭客户端的情况下的表现，我们证明 PSO-Fed 在遭受模型投毒攻击的压力下仍能保持收敛性。通过推导理论均方误差（MSE），我们将其与步长、攻击概率、拜占庭客户端数量、客户端参与率、部分共享比率和噪声方差等各种参数相关联。我们还展示了 PSO-Fed 面对模型投毒攻击时存在一个非平凡的最优步长。我们广泛的数值实验结果证实了我们的理论断言，并凸显了 PSO-Fed 对抗拜占庭攻击的卓越能力，优于其他相关的领先算法。
发现论文，激发创造
  • 对拜占庭 - 鲁棒联邦学习的本地模型污染攻击

    本论文针对联邦学习中的本地模型污染攻击进行了系统研究，经过实验验证，表明该攻击可以显著提高联邦学习方法的误差率，并提出了两种抵御该攻击的方法，需要进一步加强防御。

    Nov, 2019

  • SparseFed: 通过压缩减少稀有性来减轻联邦学习中的模型污染攻击

    本文介绍了一种新颖的防御方法 —— 使用全局的前 k 更新稀疏和设备级别梯度裁剪来减轻模型中毒攻击，并提供了一个理论框架来分析防御对于攻击的鲁棒性和收敛性。同时，本文还通过开源评估验证了其实际效果，涵盖了多个计算机视觉和联邦学习的基准数据集。

    Dec, 2021

  • 联邦式机器学习的数据注入攻击

    本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

    Apr, 2020

  • 透过对抗性的视角分析联邦学习

    本篇论文探讨了在联邦学习中的模型污染攻击，通过提出一种交替极小化策略和使用参数估计方法使恶意代理更容易成功攻击，同时提出利用可解释性技术生成模型决策的视觉解释，为联邦学习中的漏洞和防御策略提供了借鉴。

    Nov, 2018

  • 无破坏：隐私保护和拜占庭强健的联邦学习

    本文旨在构建一个隐私保护、拜占庭强健的联邦学习方案，提供一个无破坏者环境，以保护数据隐私并排除恶意攻击者。我们通过构建模型过滤器、采用零知识证明提供进一步的隐私保护、采用秘密共享提供可验证的安全聚合，证明了 NoV 能有效应对包括 PGD 在内的数据和模型污染攻击，并超越其他相关方案。

    Jun, 2024

  • SplitFed Learning 的安全性分析

    本文首次对 SplitFed 的强韧性进行了实证分析，结果表明 SplitFed 在面对模型毒化攻击时降低精度的程度是 Federated Learning 的 1/5，这是由于 SplitFed 具有较小的维度和更高的抗攻击能力。

    Dec, 2022

  • FedDefender：客户端抗攻击的联邦学习

    分散化数据源的联邦学习为学习提供隐私保护，但容易受到恶意客户干扰的模型中毒攻击，因此本文提出了一种名为 FedDefender 的新客户端防御机制，通过攻击容忍的本地元更新和攻击容忍的全局知识蒸馏两个组件，实现对联邦学习的模型中毒攻击的抵御和知识提取，从而提高其鲁棒性。

    Jul, 2023

  • FedRecover: 使用历史信息从联邦学习的污染攻击中恢复

    本文提出了一种名为 FedRecover 的方法，可以通过储存全局模型和客户机模型更新的历史信息，利用几种优化策略来恢复准确的全局模型，从而防止对联合学习的攻击。

    Oct, 2022

  • 拒绝服务或细粒度控制：面向联邦学习的灵活模型投毒攻击

    本文提出了一种灵活的模型中毒攻击方法，即 Flexible Model Poisoning Attack (FMPA)，可以通过使用全局历史信息来构建预测模型并进行微调，达到在没有额外知识的情况下对联邦学习进行攻击的目的，并且可以对全局准确性进行细粒度可控攻击，是目前最优秀的攻击方法之一。

    Apr, 2023

  • 计算机网络中的数据污染攻击暴露下的联邦学习漏洞

    数据污染攻击对于计算机网络领域的严重性进行了实证研究，发现 Label Flipping 攻击易于检测，而 Feature Poisoning 攻击难以被察觉，证明了后者在欺骗服务器方面的重要性。

    Mar, 2024