联邦学习生命周期中的威胁和防御:全面调查和挑战
本文提供了一种简洁的介绍联邦学习的概念, 并使用一个唯一的分类法来涵盖针对联邦学习的威胁模型和两个主要的攻击方法:1)污染攻击和2)推理攻击, 探讨了向更强大的隐私保护方向发展的有前途的未来研究方向.
Mar, 2020
本文对联邦学习的隐私保护问题进行了广泛的研究和探讨,提出了对应的防御方法并对防御方法的选择提出了指导建议,研究得出了关于攻击和防御行为的进一步结论以及面临的挑战和经验教训。
Jan, 2022
本文系统总结了目前联邦学习系统中存在的各种攻击和针对性防御,包括学习和预测阶段中对不同角色的攻击,并分析了各种隐私和安全层面的防御机制,旨在为建立更加安全、稳定的联邦学习系统提供参考。
Nov, 2022
本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题,提出了一种更加通用的算法设计框架、攻击场景和防御方法,致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。
Feb, 2023
通过从新的角度,即什么在联邦学习中共享,以模型效用、隐私泄露和通信效率为重点,系统调查了联邦学习方法的新分类、隐私攻击的脆弱性以及不同共享方法的性能与隐私保护的效力,并讨论了当前方法存在的潜在缺陷和未来改进的方向。
Jul, 2023
该综述论文对恶意攻击的联邦学习进行了全面的研究,从攻击来源和目标的新视角进行分类,并深入剖析了其方法和影响。文章对以数据攻击模型、模型攻击数据、模型与模型攻击以及复合攻击为类型的威胁模型进行了讨论,并提出了各种防御策略及其效果、假设和潜在改进方向。作者研究表明,在联邦学习系统的不同阶段,可操纵的学习数据、学习梯度和学习模型的恶意攻击日益增多,其影响范围涵盖了破坏模型性能、重构本地私有数据和注入后门等。此文献综述全面了解当前联邦学习威胁形势,并强调了开发稳健、高效和保护隐私的防御措施对于确保联邦学习在实际应用中的安全与可信采纳的重要性。
Nov, 2023
综述了垂直联邦学习中的隐私攻击和防御方法,提供了攻击和防御的分类方法,并讨论了未来的研究方向和挑战,为研究人员提供了资源,为从业者在机器学习模型的生命周期中保护数据隐私提供明确指导和可行的见解。
Feb, 2024
本研究解决了联邦学习中隐私攻击有效性的问题,尽管已有多种攻击算法,但是否能在现实环境中有效提取用户私密数据仍不确定。通过对相关文献的分析和在真实联邦学习环境中的实验,我们发现目前的隐私攻击算法在实际应用中难以突破用户数据隐私,这表明隐私攻击的难度超出预期。
Sep, 2024