Jun, 2023

去中心化学习中的 Sybil 抗性

PDF
TL;DR本研究旨在提高去中心化学习的 Sybil 义务破坏韧性。我们提出了 SybilWall 算法，该算法基于 Sybils 之间的相似度和新颖的概率传闻机制，确立了一个新的可扩展的，具有 Sybil 韧性的分散式学习基准。全面的实证评估表明，SybilWall 优于针对联邦学习方案设计的现有最先进解决方案，并且是唯一一种在各种敌对攻击情况下获得一致准确度的算法。我们还发现，SybilWall 减少了创建许多 Sybils 的效用，因为我们的评估表明，采用较少 Sybils 的对手的成功率更高。最后，我们提出了 SybilWall 的一些可能改进方法，并强调了有前途的未来研究方向。
发现论文，激发创造
  • 具有遗忘分布式差分隐私的抗串谋联邦学习

    本研究提出了一种新的基于分布式差分隐私的隐私保护联合学习方法，其可以有效避免联合攻击，以及 “Sybil” 攻击，并给出了相应的安全性证明。在模拟的 5000 个分布式网络客户端上的实验结果表明，该协议执行速度快，学习准确率高，且具有良好的隐私保护性能。

    Feb, 2022

  • 联邦学习中减轻 Sybil 攻击的影响

    本篇论文讨论了分布式多方数据上的机器学习及其所需的安全防护机制。提出了一种新的名为 FoolsGold 的分散式模型，它检测分布式学习过程中的客户端更新的多样性，并且比先前的防御机制更为健壮。

    Aug, 2018

  • SaFL：面部识别系统中具备 Sybil 感知能力的联邦学习

    使用 Sybil 感知的联邦学习（SaFL）的新防御方法，通过一种新颖的时变聚合方案最小化 sybil 的影响。

    Nov, 2023

  • 拜占庭稳健的分散式联邦学习

    我们提出了一种名为 BALANCE 的新算法，通过本地相似性在去中心化中进行拜占庭 - 鲁棒的均值计算，以抵御毒化攻击，并在强凸和非凸设置中建立了 BALANCE 在毒化攻击下的理论收敛保证，大量实验证明 BALANCE 优于现有的分布式联邦学习方法并有效地抵御毒化攻击。

    Jun, 2024

  • 拜占庭 - 弹性安全联邦学习

    本文提出了首个单服务器拜占庭容错安全的聚合框架（BREA）用于安全联邦学习，包括完整的隐私保护和网络收敛保证，基于综合随机量化、可验证的异常检测和安全的模型聚合方法，并对网络规模、用户退化和隐私保护方面进行了理论和实验分析。

    Jul, 2020

  • 联邦学习的聚合服务：高效、安全、更具韧性的实现

    本文介绍了一个基于轻量级加密和数据混淆的联邦学习系统，结合恰当的带宽效率优化和对云服务器主动攻击的安全保护机制，在保证客户端数据隐私的前提下，整合来自多源的数据进行联合训练，并在多项数据集（MNIST、CIFAR-10、CelebA）上验证该系统的可行性及精度。

    Feb, 2022

  • 透过对抗性的视角分析联邦学习

    本篇论文探讨了在联邦学习中的模型污染攻击，通过提出一种交替极小化策略和使用参数估计方法使恶意代理更容易成功攻击，同时提出利用可解释性技术生成模型决策的视觉解释，为联邦学习中的漏洞和防御策略提供了借鉴。

    Nov, 2018

  • 安全聚合并不是你所需要的一切：使用噪声容忍度在联邦学习中缓解隐私攻击

    本文研究了在联合学习中，如果服务端是恶意的但试图获得私人数据，会面临什么样的安全聚合漏洞，并提供了一种进一步防御此类恶意服务器的方法，并展示了防御针对已知攻击的有效性。

    Nov, 2022

  • 针对鲁棒联邦学习的恶意客户检测学习

    本文提出了一个新的框架，通过使用一个强大的检测模型，中央服务器可以学习来检测和移除恶意模型更新，从而实现有针对性的防御，以确保对拜占庭攻击和有针对性的模型毒化攻击具有鲁棒性的联合学习。

    Feb, 2020

  • 无破坏：隐私保护和拜占庭强健的联邦学习

    本文旨在构建一个隐私保护、拜占庭强健的联邦学习方案，提供一个无破坏者环境，以保护数据隐私并排除恶意攻击者。我们通过构建模型过滤器、采用零知识证明提供进一步的隐私保护、采用秘密共享提供可验证的安全聚合，证明了 NoV 能有效应对包括 PGD 在内的数据和模型污染攻击，并超越其他相关方案。

    Jun, 2024