Nov, 2024

联邦回归任务的属性推断攻击

HTML
PDF
TL;DR本研究针对联邦学习（FL）中回归任务的属性推断攻击（AIA）进行了探索，填补了在该领域中的研究空白。我们提出了针对回归任务的模型驱动AIA，考虑了对抗者窃听信息和干扰训练过程的情境。实验结果表明，尤其在异构客户端数据集中，我们的方法在重构准确性上显著提升，从而为评估联邦回归任务中的隐私泄露提供了更有效的工具。
发现论文，激发创造
  • 联邦学习的威胁：综述

    本文提供了一种简洁的介绍联邦学习的概念, 并使用一个唯一的分类法来涵盖针对联邦学习的威胁模型和两个主要的攻击方法:1)污染攻击和2)推理攻击, 探讨了向更强大的隐私保护方向发展的有前途的未来研究方向.

    Mar, 2020

  • 联邦学习中评估渗漏攻击的框架

    本文提出了一个原则性框架来评估和比较不同形式的客户隐私泄漏攻击。我们提供了正式和实验分析表明，攻击者可以通过分析本地训练的共享参数更新(例如，本地梯度或权重更新向量)来重构私有本地训练数据。该论文还分析了联邦学习中不同超参数配置和攻击算法设置对攻击效果和代价的影响，并且给出了在使用通信高效的FL协议时不同梯度压缩比下客户隐私泄漏攻击的有效性的测量、评估和分析。 最后，我们提供了一些初步的缓解策略，以突出提供系统化的攻击评估框架来深入了解联邦学习中各种形式的客户隐私泄漏威胁并发展攻击缓解的理论基础。

    Apr, 2020

  • 联邦学习中的本地和中央差分隐私保障鲁棒性和隐私性

    本文研究了如何使用差分隐私技术来保护联邦学习中的隐私和鲁棒性，评估了局部差分隐私（LDP）和中心差分隐私（CDP）技术的可行性和有效性。实验证明，这两个差分隐私技术都可以有效防止后门攻击，并且较其他鲁棒性防御更加有效。同时，差分隐私还可以减轻白盒成员推理攻击。然而，这两个技术都无法防御属性推理攻击。

    Sep, 2020

  • 垂直联邦学习中基于特征的推理攻击对模型预测的影响

    本文介绍了几种特征推断攻击方法，以调查垂直联邦学习模型预测阶段可能存在的隐私泄露问题。实验评估证明了所提出攻击方法的有效性，并强调了在垂直 FL 中设计保护模型预测输出的机制的必要性。

    Oct, 2020

  • 从表示的角度可证明抵御联邦学习中的隐私泄露

    本文针对联邦学习系统存在的隐私泄露问题，提出一种学习数据扰动来防止模型逆推攻击的防御策略，实验证明该方法在防御DLG 和 GS攻击的同时能够将数据重构误差提高160倍以上，有效提升联邦学习系统的隐私保护性能。

    Dec, 2020

  • 联邦学习中的隐私与鲁棒性：攻击与防御

    在这篇综述性论文中，作者重点介绍基于联邦学习的系统在应对恶意攻击、保障隐私方面所面临的问题，特别关注如何提高系统鲁棒性和隐私保护措施。

    Dec, 2020

  • 联邦学习中一种新型属性重构攻击

    本文研究了联邦学习中的隐私保护问题，提出了一种使用每周期平均梯度进行的属性重构攻击方法，并验证了其在真实数据集上的有效性。

    Aug, 2021

  • 联邦学习中的本地模型重构攻击及其应用

    本文探讨本地模型重构攻击对于联邦学习的影响，提出了一种基于模型的特征推理攻击，并在实验中验证了攻击手法的有效性。

    Oct, 2022

  • 评估联邦学习中的成员推断攻击和防御

    成员推理攻击（MIAs）对联邦学习中的隐私保护构成了日益严重的威胁。本文评估了现有的MIAs和相应的防御策略，并提出了使用数据替换作为一种防御策略来实现隐私保护和模型效用之间的最佳平衡。

    Feb, 2024

  • 联邦学习中的隐私攻击并非易事：一项实验研究

    本研究解决了联邦学习中隐私攻击有效性的问题，尽管已有多种攻击算法，但是否能在现实环境中有效提取用户私密数据仍不确定。通过对相关文献的分析和在真实联邦学习环境中的实验，我们发现目前的隐私攻击算法在实际应用中难以突破用户数据隐私，这表明隐私攻击的难度超出预期。

    Sep, 2024