May, 2018

AttriGuard: 通过对抗式机器学习实现属性推断攻击实用防御

PDF
TL;DR该研究提出了一种新的隐私保护技术，通过使用干扰攻击来保护用户的隐私信息免遭基于机器学习分类器的信息泄露攻击，该方法有效降低了用户公开信息的隐私损失。
attribute inference attacksmachine learning classifierprivacy protectionevasion attacksprivacy loss
发现论文，激发创造
  • 人类直觉作为防御属性推断的手段

    评估了人们修改公开数据以保护隐私的能力，发现人们的效力不如人工智能。强调现代 AI 时代需要算法支持来保护个人信息。

    Apr, 2023

  • MemGuard: 对抗性样本防御黑盒成员推断攻击

    该研究提出了一种名为 MemGuard 的新型防御机制，通过添加特定的噪声向量来抵御成员推断攻击，实现更好的隐私保护和安全性，并通过实验验证了该机制的有效性和优越性。

    Sep, 2019

  • 使用对抗学习进行隐私感知的私有属性保护推荐

    本文提出了一种名为 “RAP” 模型，使得在推荐系统中保护用户隐私属性的同时，能够为其推荐相关物品，通过对对抗学习问题的建模，对私有属性推断攻击进行反制，同时基于贝叶斯个性化推荐算法调节推荐过程，并在实验证明保持了推荐质量并保护了用户免受私有属性推断攻击。

    Nov, 2019

  • Inf2Guard: 一个信息理论框架用于学习抵抗判断攻击的隐私保护表示

    机器学习中存在多种推断攻击，现有防御方法要么只针对特定类型的攻击且损失很大，要么很快被自适应攻击突破。本研究提出了一种信息理论防御框架 Inf2Guard，用于对抗推断攻击。该框架通过学习共享表示来保护隐私和保留效用，并展示了多种优势及对现有防御的改进。实证评估验证了 Inf2Guard 对于学习对推断攻击具有隐私保护的表示的有效性，并展示了其优于基线方法的卓越性能。

    Mar, 2024

  • 社会公益的对手：利用对抗攻击保护个人属性隐私

    本文提出了一种名为 Adv4SG 的新型文本领域对抗性攻击方法，旨在通过一系列词汇扰动来保护社交媒体上的个人属性隐私，有效地降低基于自然语言处理技术的属性推断攻击的影响。

    Jun, 2023

  • 机器学习模型属性推理攻击的 (不) 可行性

    本文研究了在使用机器学习模型提供服务时出现的数据隐私问题，尤其是会员推理攻击和属性推理攻击，并发现基于成员推理攻击的模型很少容易受到属性推理攻击，但是基于近似属性推理的攻击可以获取接近真实属性的结果。

    Mar, 2021

  • 通过用户的社交朋友和行为进行属性推断攻击：你就是你所交的朋友和你的行为

    我们提出了一种新的隐私攻击来推断在线社交网络用户的属性，这些攻击利用看似无害的用户信息来推断目标用户的缺失属性，我们的攻击在社交朋友和行为记录两个方面都有所得，比以往的攻击更为有效，有严重的网络隐私保护问题。

    Jun, 2016

  • 敏感属性是否处于隐私保护之中？针对分类模型的新型模型倒推属性推理攻击

    本文聚焦于模型反演攻击，介绍了一种新的基于置信度分数的攻击方法和仅需要模型预测标签的攻击方法，并将攻击算法应用在决策树和深度神经网络上，评估了不同数据集在不同身份特征条件下的漏洞性。

    Jan, 2022

  • 净化器：通过转换置信度得分来防御数据推理攻击

    介绍一种名为 PURIFIER 的方法，该方法可以有效抵御数据样本隶属关系推断攻击，可以应用于神经网络中防御三种非法攻击方式，并且实验结果表明该方法可以大幅提高防御效果，同时不会造成可接受的实用性损失。

    Dec, 2022

  • 图神经网络的黑盒属性推断攻击是否构成隐私风险？

    本研究调查了对图结构数据及其相应的图神经网络模型的黑盒属性推理攻击是否构成重要的隐私风险，并发现当攻击者具有对目标模型的黑盒访问权限时，与缺失值估计技术相比，GNNs 通常不会显着透露更多信息。

    Jun, 2023