Sep, 2019

通过自适应模型平均实现拜占庭鲁棒的联邦机器学习

PDF
TL;DR本文介绍了一种名为自适应联邦平均的新型算法，该算法利用隐藏马尔可夫模型来检测参与者在训练期间提供的模型更新质量，并提出一种鲁棒聚合规则以检测和丢弃每次训练迭代中的不良或恶意本地模型更新以及阻止不需要的参与者，从而在处理噪声、故障和恶意参与者时具有更高的鲁棒性和计算效率。
federated learningbyzantine failuresadaptive federated averaginghidden markov modelrobust aggregation rule
发现论文，激发创造
  • 联邦学习聚合：具有保证的新的鲁棒算法

    该研究对联邦学习框架下聚合策略进行了全面的数学收敛分析，并通过与 FedAvg 进行分类任务的比较来评估其性能，得出了新的聚合算法，该算法可以通过区分客户端贡献的价值来修改其模型架构。

    May, 2022

  • 异构环境下的健壮联邦学习

    在 Federated Learning 中，我们提出了一个统计模型来解决异构数据分布和拜占庭机器等统计和计算挑战。在此基础上，我们提出了一个优化算法来解决该问题，并获得了比非拜占庭鲁棒算法更好的估计误差。

    Jun, 2019

  • 联邦学习的鲁棒聚合

    本文提出了一种使用鲁棒集成中位数的方法来实现联邦学习的鲁棒性，该方法使用常数次迭代实现了随机平均值，不仅能保护隐私，而且在计算机视觉和自然语言处理的三个任务中也有较好的性能。

    Dec, 2019

  • 基于梯度蒙版的联邦学习平均化

    本文提出了一种基于梯度遮蔽平均的联邦学习方法，该方法通过学习恒定的不变机制来忽略异构性数据中不同的机制，避免因为主导客户端的偏见导致的信息损失和泛化性能不佳，实验证明该方法在非独立同分布数据集上提供了一致的改进。

    Jan, 2022

  • 拜占庭攻击鲁棒的联邦学习：实现零最优间隙

    本文提出了一种强大的聚合方法，用于联邦学习，可以有效地应对恶意拜占庭攻击，每个用户可以通过多个步骤来更新模型参数，然后将其直接推送到聚合中心，聚合中心利用几何中位数将用户的模型参数进行组合，并通过严格的证明表明，只要恶意攻击者的比例低于一半，我们提出的方法可以达到零最优间隔，并呈线性收敛性。数值结果验证了我们提出方法的有效性。

    Aug, 2023

  • 拜占庭鲁棒聚类联邦学习

    本文讨论了联邦学习中拜占庭机器的对抗攻击问题，提出了一种具有鲁棒性的迭代联邦聚类算法来识别非拜占庭机器的集群成员身份并优化每个集群学习的模型。

    Jun, 2023

  • 拜占庭稳健的分散式联邦学习

    我们提出了一种名为 BALANCE 的新算法，通过本地相似性在去中心化中进行拜占庭 - 鲁棒的均值计算，以抵御毒化攻击，并在强凸和非凸设置中建立了 BALANCE 在毒化攻击下的理论收敛保证，大量实验证明 BALANCE 优于现有的分布式联邦学习方法并有效地抵御毒化攻击。

    Jun, 2024

  • BRFL: 基于区块链的拜占庭容错型联邦学习模型

    基于区块链的拜占庭 - 稳健联邦学习 (BRLF) 模型通过与区块链技术的结合，解决了联邦学习中的资源消耗问题，并在公共数据集上验证了我们安全聚合算法相对于其他基线算法在抗拜占庭攻击方面的优越性，证明了我们提出的模型的有效性。

    Oct, 2023

  • FedTruth: 拜占庭容错和后门抵制的联邦学习框架

    FedTruth 是一种针对 FL 中的模型污染问题的鲁棒防御方法，通过动态聚合权重估计全局模型更新，考虑了所有良性客户的贡献，并在实证研究中证明了其对拜占庭攻击和后门攻击的毒化更新的影响有很好的缓解效果。

    Nov, 2023

  • 拜占庭 - 弹性安全联邦学习

    本文提出了首个单服务器拜占庭容错安全的聚合框架（BREA）用于安全联邦学习，包括完整的隐私保护和网络收敛保证，基于综合随机量化、可验证的异常检测和安全的模型聚合方法，并对网络规模、用户退化和隐私保护方面进行了理论和实验分析。

    Jul, 2020