Feb, 2024

FedReview：联邦学习中拒绝污染更新的审查机制

PDF
TL;DR该论文介绍了一种名为 FedReview 的评审机制，用于在联邦学习中识别和拒绝潜在的被篡改的模型更新，通过评估结果对模型更新进行排名和统计，并通过多数投票机制在模型聚合过程中移除潜在的被篡改更新。多个数据集上的广泛评估表明，FedReview 在对抗环境中可以帮助服务器学习到一个性能良好的全局模型。
发现论文，激发创造
  • 针对鲁棒联邦学习的恶意客户检测学习

    本文提出了一个新的框架，通过使用一个强大的检测模型，中央服务器可以学习来检测和移除恶意模型更新，从而实现有针对性的防御，以确保对拜占庭攻击和有针对性的模型毒化攻击具有鲁棒性的联合学习。

    Feb, 2020

  • FreqFed: 基于频率分析的联邦学习中缓解污染攻击的方法

    FreqFed 是一种新颖的聚合机制，通过将模型更新转换到频域，可以有效过滤掉恶意攻击，无论攻击类型、策略和客户端数据分布，从而在不影响聚合模型的实用性的前提下有效缓解毒化攻击。

    Dec, 2023

  • FedDefender：客户端抗攻击的联邦学习

    分散化数据源的联邦学习为学习提供隐私保护，但容易受到恶意客户干扰的模型中毒攻击，因此本文提出了一种名为 FedDefender 的新客户端防御机制，通过攻击容忍的本地元更新和攻击容忍的全局知识蒸馏两个组件，实现对联邦学习的模型中毒攻击的抵御和知识提取，从而提高其鲁棒性。

    Jul, 2023

  • 透过对抗性的视角分析联邦学习

    本篇论文探讨了在联邦学习中的模型污染攻击，通过提出一种交替极小化策略和使用参数估计方法使恶意代理更容易成功攻击，同时提出利用可解释性技术生成模型决策的视觉解释，为联邦学习中的漏洞和防御策略提供了借鉴。

    Nov, 2018

  • FedRecover: 使用历史信息从联邦学习的污染攻击中恢复

    本文提出了一种名为 FedRecover 的方法，可以通过储存全局模型和客户机模型更新的历史信息，利用几种优化策略来恢复准确的全局模型，从而防止对联合学习的攻击。

    Oct, 2022

  • 联邦学习中的异质性好还是坏：FedVal

    本论文提出了一种名为 FedVal 的新方法，该方法基于服务器端验证方法，使用创新的评分函数来评估客户端更新，并确定本地训练模型之间的最佳聚合平衡，从而提高鲁棒性和公平性，同时维护差分隐私的系统能力。在 CIFAR-10，FEMNIST 和 PUMS ACSIncome 数据集上的广泛实验证明了我们的方法的有效性，实现了最先进的性能。

    Jun, 2023

  • FedRecAttack：对联邦推荐模型的模型毒化攻击

    该论文介绍了一种针对联邦推荐系统的模型毒化攻击，利用公共交互信息近似用户特征向量，并通过精心设计的方式控制恶意用户上传毒化梯度，提高目标项的曝光率。实验结果表明，FedRecAttack 在 3% 的恶意用户和 1% 的公共交互情况下仍然非常有效，揭示了联邦推荐系统相比传统推荐系统更易受到攻击的事实。

    Apr, 2022

  • 联邦学习场景下基于深度学习的推荐模型攻击

    本篇论文研究了针对联邦学习场景下的基于深度学习的推荐模型的攻击方法，并提出了两种生成毒瘤梯度的策略以有效地破坏目标模型。

    Apr, 2022

  • FedTruth: 拜占庭容错和后门抵制的联邦学习框架

    FedTruth 是一种针对 FL 中的模型污染问题的鲁棒防御方法，通过动态聚合权重估计全局模型更新，考虑了所有良性客户的贡献，并在实证研究中证明了其对拜占庭攻击和后门攻击的毒化更新的影响有很好的缓解效果。

    Nov, 2023

  • 用伪用户攻击联邦推荐系统

    该研究探讨了在联邦推荐系统中执行促销攻击的策略，引入了一种无需额外信息的新型假用户基础的中毒攻击，称为 PoisonFRS，该攻击能有效地促进攻击者选择的目标物品并且在潜在空间中无法区分真实用户和虚假用户的模型更新。

    Feb, 2024