Jul, 2023

针对长尾数据的联邦学习安全聚合

PDF
TL;DR本文针对联邦学习中数据不均衡和拜占庭节点攻击的问题，提出了一种新的两层聚合方法和智囊团概念，用于拒绝恶意模型和选出包含尾部类别数据信息的有价值模型进行全局聚合，初步实验证明智囊团对于全局聚合进行有效的模型选择。
federated learningbyzantine nodesaggregation methodthink tankmodel selection
发现论文，激发创造
  • 走向联邦长尾学习

    本文探讨如何在隐私保护联邦学习框架下，同时解决学习长尾数据分布及数据隐私保护问题，提出了三种不同的长尾数据分布情景，并强调了相应的挑战。初步结果表明，解决联邦长尾学习任务需要更多的工作和研究。

    Jun, 2022

  • 5G 网络安全联邦学习框架

    本文提出了一种基于区块链的安全联邦学习框架，通过构建智能合约，自动执行防御策略，识别恶意攻击参与者，同时采用本地差分私有化技术，有效地防止中毒和成员推断攻击。

    May, 2020

  • FedTruth: 拜占庭容错和后门抵制的联邦学习框架

    FedTruth 是一种针对 FL 中的模型污染问题的鲁棒防御方法，通过动态聚合权重估计全局模型更新，考虑了所有良性客户的贡献，并在实证研究中证明了其对拜占庭攻击和后门攻击的毒化更新的影响有很好的缓解效果。

    Nov, 2023

  • 基于特征统计的长尾和非独立同分布数据的解耦联邦学习

    本文探讨了尾部类别在几个客户端上稀疏分布的被忽视的情景，提出了一个基于功能统计的两阶段解耦合联邦学习框架（DFL-FS），用于加速收敛并提高特征学习能力，实验结果表明该方法在准确率和收敛速度上优于现有方法。

    Mar, 2024

  • 强大的联邦学习抵抗客户端训练数据分布推理攻击

    通过提出 InferGuard，一个新颖的拜占庭鲁棒聚合规则，我们的防御机制在保护客户端训练数据分布推断攻击方面表现出高度的有效性，甚至对于强适应性攻击也具有很强的防御能力，并在各种实际的联邦学习场景中显著优于基准方法。

    Mar, 2024

  • 联邦学习的安全与隐私问题

    分布式学习中的联邦学习存在安全和隐私挑战，本研究针对各类机器学习模型，包括大型语言模型，提出了安全和隐私挑战的综合分类，重点关注聚合器和参与者的攻击，包括投毒攻击、后门攻击、成员推断攻击、生成对抗网络攻击和差分隐私攻击，同时提出了未来研究的新方向，旨在强化联邦学习系统以应对新兴安全风险并保护分布式学习环境中的敏感数据隐私。

    Jul, 2023

  • 攻击自适应聚合的鲁棒联邦学习

    针对联邦学习存在的毒化模型和后门攻击等安全威胁，我们提出了一种基于注意力机制的神经网络攻击自适应的聚合策略。我们的方法可以在数据驱动的方式下，有效应对各种攻击，特别是对图像和文本数据集中的模型毒化和后门攻击的防御具有竞争力的表现。

    Feb, 2021

  • 在联邦式长尾学习中，将局部真实数据与全局梯度原型集成以进行分类器再平衡

    本篇研究对去中心化的 Federated Learning 中，数据长尾分布导致全局模型严重偏向于头部类别而出现的问题进行了探究和解决，提出了一种局部平衡数据集的方法，并在训练时引入了额外的分类器，同时优化分类器的平衡和全局数据分布的建模，实验证明本研究的方法在各种情况下都表现出了优异的效果。

    Jan, 2023

  • 联邦学习中的鲁棒数量感知聚合

    本文提出了一种名为 FedRA 的鲁棒的面向数量感知的聚合算法，旨在实现带有本地数据数量意识并能够防御数量增强攻击的 FL。经过在四个公共数据集上的实验，验证了 FedRA 方法在防御数量增强攻击方面对 FL 的有效性。

    May, 2022

  • 拜占庭攻击鲁棒的联邦学习：实现零最优间隙

    本文提出了一种强大的聚合方法，用于联邦学习，可以有效地应对恶意拜占庭攻击，每个用户可以通过多个步骤来更新模型参数，然后将其直接推送到聚合中心，聚合中心利用几何中位数将用户的模型参数进行组合，并通过严格的证明表明，只要恶意攻击者的比例低于一半，我们提出的方法可以达到零最优间隔，并呈线性收敛性。数值结果验证了我们提出方法的有效性。

    Aug, 2023