联邦学习的博弈理论框架
本文提供了一种简洁的介绍联邦学习的概念, 并使用一个唯一的分类法来涵盖针对联邦学习的威胁模型和两个主要的攻击方法:1)污染攻击和2)推理攻击, 探讨了向更强大的隐私保护方向发展的有前途的未来研究方向.
Mar, 2020
本文针对联邦学习系统存在的隐私泄露问题,提出一种学习数据扰动来防止模型逆推攻击的防御策略,实验证明该方法在防御DLG 和 GS攻击的同时能够将数据重构误差提高160倍以上,有效提升联邦学习系统的隐私保护性能。
Dec, 2020
本文提出一个基于游戏理论的垂直联合学习方法,解决了数据隐私保护,协作参与,多平台数据利用以及合理奖励等问题,模拟了不同平台间的协商和策略性优化,有效地促进了 VFL 下多平台数据的协作利用。
Feb, 2022
本文系统总结了目前联邦学习系统中存在的各种攻击和针对性防御,包括学习和预测阶段中对不同角色的攻击,并分析了各种隐私和安全层面的防御机制,旨在为建立更加安全、稳定的联邦学习系统提供参考。
Nov, 2022
本文详细阐述了联邦学习的体系结构、应用问题、算法设计原则和安全问题,提出了一种更加通用的算法设计框架、攻击场景和防御方法,致力于将联邦学习与真实世界应用相集成并实现高性能、隐私保护和安全性。
Feb, 2023
通过从新的角度,即什么在联邦学习中共享,以模型效用、隐私泄露和通信效率为重点,系统调查了联邦学习方法的新分类、隐私攻击的脆弱性以及不同共享方法的性能与隐私保护的效力,并讨论了当前方法存在的潜在缺陷和未来改进的方向。
Jul, 2023
本研究解决了联邦学习中隐私攻击有效性的问题,尽管已有多种攻击算法,但是否能在现实环境中有效提取用户私密数据仍不确定。通过对相关文献的分析和在真实联邦学习环境中的实验,我们发现目前的隐私攻击算法在实际应用中难以突破用户数据隐私,这表明隐私攻击的难度超出预期。
Sep, 2024