SABRE:鲁棒的贝叶斯 P2P 联邦学习
通过消除既有集中式联邦学习范式中汇总本地模型的服务器,将被称为 P2P FL 的方法应运而生,然而,P2P FL 容易受到善意但好奇的参与者和可以发出任意篡改的拜占庭参与者的攻击,本文提出了一种名为 Brave 的协议,以确保 P2P FL 在这两种类型的对手存在下同时保证了拜占庭容错和隐私保留的性质,并通过对 CIFAR10 和 MNIST 数据集上的图像分类任务进行评估,结果表明 Brave 可在对手存在的情况下实现与无对手存在时相当的分类准确性。
Jan, 2024
本文提出了首个单服务器拜占庭容错安全的聚合框架(BREA)用于安全联邦学习,包括完整的隐私保护和网络收敛保证,基于综合随机量化、可验证的异常检测和安全的模型聚合方法,并对网络规模、用户退化和隐私保护方面进行了理论和实验分析。
Jul, 2020
基于区块链的拜占庭 - 稳健联邦学习 (BRLF) 模型通过与区块链技术的结合,解决了联邦学习中的资源消耗问题,并在公共数据集上验证了我们安全聚合算法相对于其他基线算法在抗拜占庭攻击方面的优越性,证明了我们提出的模型的有效性。
Oct, 2023
我们提出了一种名为 BALANCE 的新算法,通过本地相似性在去中心化中进行拜占庭 - 鲁棒的均值计算,以抵御毒化攻击,并在强凸和非凸设置中建立了 BALANCE 在毒化攻击下的理论收敛保证,大量实验证明 BALANCE 优于现有的分布式联邦学习方法并有效地抵御毒化攻击。
Jun, 2024
本文提出了一种名为 BayBFed 的新型背门攻击防御框架,其利用客户端更新的概率分布来检测联邦学习中的恶意更新,并成功地在五个基准数据集上进行了广泛评估。
Jan, 2023
本文介绍了一种名为自适应联邦平均的新型算法,该算法利用隐藏马尔可夫模型来检测参与者在训练期间提供的模型更新质量,并提出一种鲁棒聚合规则以检测和丢弃每次训练迭代中的不良或恶意本地模型更新以及阻止不需要的参与者,从而在处理噪声、故障和恶意参与者时具有更高的鲁棒性和计算效率。
Sep, 2019
我们提出了一种基于安全聚合协议的抵御毒化攻击的强韧联邦学习框架(RFLPA),该框架通过计算本地更新和服务器更新之间的余弦相似度来进行鲁棒聚合。此外,我们利用可验证的打包 Shamir 秘密共享来实现每个用户的通信成本降低为 O(M + N),并设计一种新颖的点积聚合算法来解决信息泄露增加的问题。我们的实验结果显示,与最先进的方法 BREA 相比,RFLPA 在保持竞争性准确性的同时显著减少了 75%以上的通信和计算开销。
May, 2024
该研究提出了一个名为 Fed_BVA 的对抗鲁棒联邦学习框架,改进了服务器和客户端更新机制,通过最大化服务器更新期间的偏差和方差生成对抗性示例,并在客户端更新期间学习这些示例的对抗性鲁棒模型更新。实验证明,该框架对 IID 和非 IID 情况下的白盒和黑盒对抗性破坏具有鲁棒性。
Sep, 2020
FedTruth 是一种针对 FL 中的模型污染问题的鲁棒防御方法,通过动态聚合权重估计全局模型更新,考虑了所有良性客户的贡献,并在实证研究中证明了其对拜占庭攻击和后门攻击的毒化更新的影响有很好的缓解效果。
Nov, 2023