Oct, 2023

Sentinel：一种保护去中心化联邦学习的聚合函数

PDF
TL;DRSentinel 是一种用于对抗分布式联邦学习中的恶意攻击的防御策略，提供了一种基于本地数据的三步聚合协议，包括相似性过滤、引导验证和归一化，以提高对无目标和有目标恶意攻击的防御性能。
发现论文，激发创造
  • 5G 网络安全联邦学习框架

    本文提出了一种基于区块链的安全联邦学习框架，通过构建智能合约，自动执行防御策略，识别恶意攻击参与者，同时采用本地差分私有化技术，有效地防止中毒和成员推断攻击。

    May, 2020

  • 联邦学习的安全与隐私问题

    分布式学习中的联邦学习存在安全和隐私挑战，本研究针对各类机器学习模型，包括大型语言模型，提出了安全和隐私挑战的综合分类，重点关注聚合器和参与者的攻击，包括投毒攻击、后门攻击、成员推断攻击、生成对抗网络攻击和差分隐私攻击，同时提出了未来研究的新方向，旨在强化联邦学习系统以应对新兴安全风险并保护分布式学习环境中的敏感数据隐私。

    Jul, 2023

  • 关于分散式联邦学习的调查

    去中心化联邦学习解决方案的综述，包括现有的方法和未来的研究方向。

    Aug, 2023

  • 虚假还是被篡改？理解联邦学习中的恶意客户

    本文通过对文献中提出的各种污染攻击和防御聚合规则进行全面分析，并将它们归纳到一个共同框架下，旨在为从业者和研究人员提供对不同类型的威胁的清晰理解，并确定进一步的研究领域。

    Mar, 2024

  • 联邦学习中的后门攻击防御技术 - FedDefender

    FedDefender 是针对联邦学习中针对性攻击的一种防御机制，通过差分测试来识别恶意客户端并减少攻击成功率 10％，同时不影响全局模型性能。

    Jul, 2023

  • FLShield：基于验证的联邦学习防御毒化攻击的框架

    本文提出了一种名为 FLShield 的新颖 FL 框架，利用来自 FL 参与者的良性数据验证本地模型，以确保安全性和可靠性，并防止恶意参与者的攻击，同时保护本地数据的隐私。

    Aug, 2023

  • 拜占庭稳健的分散式联邦学习

    我们提出了一种名为 BALANCE 的新算法，通过本地相似性在去中心化中进行拜占庭 - 鲁棒的均值计算，以抵御毒化攻击，并在强凸和非凸设置中建立了 BALANCE 在毒化攻击下的理论收敛保证，大量实验证明 BALANCE 优于现有的分布式联邦学习方法并有效地抵御毒化攻击。

    Jun, 2024

  • 强大的联邦学习抵抗客户端训练数据分布推理攻击

    通过提出 InferGuard，一个新颖的拜占庭鲁棒聚合规则，我们的防御机制在保护客户端训练数据分布推断攻击方面表现出高度的有效性，甚至对于强适应性攻击也具有很强的防御能力，并在各种实际的联邦学习场景中显著优于基准方法。

    Mar, 2024

  • 适应性入侵检测系统的分割联邦学习

    本文提出了一种基于 “分段 - 联邦学习”(Segmented-FL) 的网络入侵检测系统 (NIDS)，该方法采用定期的本地模型评估和加权聚合本地模型参数的方法来显著提高性能，该方案对于需要协同处理多个不同网络环境数据、并保护个人数据隐私的组织具有重要参考意义。

    Jul, 2021

  • FedDefender：客户端抗攻击的联邦学习

    分散化数据源的联邦学习为学习提供隐私保护，但容易受到恶意客户干扰的模型中毒攻击，因此本文提出了一种名为 FedDefender 的新客户端防御机制，通过攻击容忍的本地元更新和攻击容忍的全局知识蒸馏两个组件，实现对联邦学习的模型中毒攻击的抵御和知识提取，从而提高其鲁棒性。

    Jul, 2023