Dec, 2020

从表示的角度可证明抵御联邦学习中的隐私泄露

PDF
TL;DR本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御 DLG 和 GS 攻击的同时能够将数据重构误差提高 160 倍以上，有效提升联邦学习系统的隐私保护性能。
federated learningprivacy leakagemodel inversion attackdefensive strategydata perturbation
发现论文，激发创造
  • 联邦学习中模型的深度泄漏

    本文提出了两个新的框架，证明在联合学习的情况下传输模型权重也可能会泄露客户端的本地数据，同时介绍了两种对抗措施和评估其保护效果。

    Jun, 2022

  • 联邦学习中评估渗漏攻击的框架

    本文提出了一个原则性框架来评估和比较不同形式的客户隐私泄漏攻击。我们提供了正式和实验分析表明，攻击者可以通过分析本地训练的共享参数更新 (例如，本地梯度或权重更新向量) 来重构私有本地训练数据。该论文还分析了联邦学习中不同超参数配置和攻击算法设置对攻击效果和代价的影响，并且给出了在使用通信高效的 FL 协议时不同梯度压缩比下客户隐私泄漏攻击的有效性的测量、评估和分析。 最后，我们提供了一些初步的缓解策略，以突出提供系统化的攻击评估框架来深入了解联邦学习中各种形式的客户隐私泄漏威胁并发展攻击缓解的理论基础。

    Apr, 2020

  • 联邦学习中的隐私与鲁棒性：攻击与防御

    在这篇综述性论文中，作者重点介绍基于联邦学习的系统在应对恶意攻击、保障隐私方面所面临的问题，特别关注如何提高系统鲁棒性和隐私保护措施。

    Dec, 2020

  • 面向联邦学习的通用深度泄露

    该研究论文研究了联邦学习中的数据隐私问题，提出了一种从共享梯度或权重中恢复训练数据的方法，并使用方法在 CIFAR-10 和 ImageNet 等图像基准上进行了实验，超过了现有的 GradInversion 技术。

    Oct, 2021

  • FLIP：联邦学习中后门缓解的可证明防御框架

    本文介绍了一个理论分析及实验研究结果，关于联邦学习在提高隐私保护的同时，如何防止数据或梯度被恶意污染，通过提出反向工程防御方法，可以保证攻击成功率的减少，并提高对抗性的鲁棒性。

    Oct, 2022

  • 联邦学习隐私：攻击、防御、应用和政策环境 - 一项调研

    深度学习和联邦学习是当前研究的重点，其中涉及隐私保护技术、隐私攻击以及隐私法规的探讨。

    May, 2024

  • 联邦学习攻击和防御：综述

    本文系统总结了目前联邦学习系统中存在的各种攻击和针对性防御，包括学习和预测阶段中对不同角色的攻击，并分析了各种隐私和安全层面的防御机制，旨在为建立更加安全、稳定的联邦学习系统提供参考。

    Nov, 2022

  • 通过生成的渐变泄露审计联邦学习中的隐私防御

    本文探讨了如何避免在联邦学习框架下，通过梯度信息泄露用户隐私的问题，并提出了一种名为生成梯度泄露的新型隐私泄露方法。作者为了解决这个问题，探讨了各种无梯度优化方法，并相对于梯度优化方法实现了更好的高质量图像重建效果。

    Mar, 2022

  • 防御竖直联邦学习中的重构攻击

    本文研究了在纵向联邦学习中防御输入泄漏攻击的方法，提出了一种基于对抗训练的框架，包含敌对重建、噪声正则化和距离相关性最小化三个模块，此框架能够有效保护输入隐私同时保留了模型的效用。

    Jul, 2021

  • 跨联邦物联网设备对数据分布的对抗预测

    联邦学习是用于分散式物联网设备训练机器学习模型的默认方法之一。但是，本研究表明，联邦学习中共享的模型权重可能泄露物联网设备的本地数据分布信息，并且模型权重注入噪声无法有效防止数据泄露。

    Aug, 2023