Aug, 2023

DISBELIEVE: 客户端模型之间的距离对于有效的本地模型投毒攻击非常关键

PDF
TL;DR利用 Federated Learning 处理共享患者敏感数据相关的隐私问题，提出了一种新的本地模型污染攻击 DISBELIEVE，能够降低目前医学图像分析领域中最先进的鲁棒聚合方法的性能，同时在多类别分类任务中对全局模型的分类性能也有显著下降。
federated learningprivacy issuesrobust aggregation methodslocal model poisoning attacksdisbelieve attack
发现论文，激发创造
  • 对拜占庭 - 鲁棒联邦学习的本地模型污染攻击

    本论文针对联邦学习中的本地模型污染攻击进行了系统研究，经过实验验证，表明该攻击可以显著提高联邦学习方法的误差率，并提出了两种抵御该攻击的方法，需要进一步加强防御。

    Nov, 2019

  • 递归欧几里得距离基于鲁棒性聚合技术的联邦学习

    本文讨论了联邦学习中的恶意攻击问题，并提出了一种基于递归欧几里得距离计算的新的强大聚合方法，该方法根据局部模型距离上一个全局模型的距离来分配权重，以便减小数据中毒的效应。实验证明，该算法在准确性方面优于最先进的算法至少 5％，同时将时间复杂度降低不到 55％。

    Mar, 2023

  • FedDefender：客户端抗攻击的联邦学习

    分散化数据源的联邦学习为学习提供隐私保护，但容易受到恶意客户干扰的模型中毒攻击，因此本文提出了一种名为 FedDefender 的新客户端防御机制，通过攻击容忍的本地元更新和攻击容忍的全局知识蒸馏两个组件，实现对联邦学习的模型中毒攻击的抵御和知识提取，从而提高其鲁棒性。

    Jul, 2023

  • 针对鲁棒联邦学习的恶意客户检测学习

    本文提出了一个新的框架，通过使用一个强大的检测模型，中央服务器可以学习来检测和移除恶意模型更新，从而实现有针对性的防御，以确保对拜占庭攻击和有针对性的模型毒化攻击具有鲁棒性的联合学习。

    Feb, 2020

  • 联邦式机器学习的数据注入攻击

    本文旨在研究联邦机器学习中的数据投毒攻击漏洞，使用一个基于多任务学习框架的联邦学习框架，提出了一个自适应的双层优化问题，并提出了一种系统感知的优化方法，ATTack on Federated Learning (AT2FL)，用于计算联邦机器学习中的设备投毒策略。实验结果表明，无论是直接毒害目标节点还是利用通信协议间接毒害相关节点，联邦多任务学习模型都非常容易受到投毒攻击的影响。

    Apr, 2020

  • 透过对抗性的视角分析联邦学习

    本篇论文探讨了在联邦学习中的模型污染攻击，通过提出一种交替极小化策略和使用参数估计方法使恶意代理更容易成功攻击，同时提出利用可解释性技术生成模型决策的视觉解释，为联邦学习中的漏洞和防御策略提供了借鉴。

    Nov, 2018

  • FedBayes: 一种用于防御对抗攻击的零信任联邦学习聚合方法

    使用贝叶斯统计的 FedBayes 方法可以抵消恶意用户对全局模型的影响，保护整个联邦系统。

    Dec, 2023

  • 针对联邦学习系统的数据污染攻击

    本文研究了面向联邦学习系统的有针对性的数据毒化攻击，通过对恶意参与者的异常检测和排除，提出了一种有效的防御策略。

    Jul, 2020

  • 针对恶意客户端的可证安全联邦学习

    本文提出了一种使用集成学习做到在联邦学习中抵抗恶意攻击的方法，它使用多个模型进行多数表决确定预测结果，测试表明该方法可以在受到最多 20 个恶意客户端攻击时在 MNIST 数据集上获得 88％的可靠准确度。

    Feb, 2021

  • 虚假还是被篡改？理解联邦学习中的恶意客户

    本文通过对文献中提出的各种污染攻击和防御聚合规则进行全面分析，并将它们归纳到一个共同框架下，旨在为从业者和研究人员提供对不同类型的威胁的清晰理解，并确定进一步的研究领域。

    Mar, 2024