Jun, 2023

图神经网络的黑盒属性推断攻击是否构成隐私风险？

PDF
TL;DR本研究调查了对图结构数据及其相应的图神经网络模型的黑盒属性推理攻击是否构成重要的隐私风险，并发现当攻击者具有对目标模型的黑盒访问权限时，与缺失值估计技术相比，GNNs 通常不会显着透露更多信息。
graph neural networksattribute inference attacksblack-box accessprivacy riskmissing value estimation
发现论文，激发创造
  • 针对图神经网络的节点级成员资格推断攻击

    本研究针对图神经网络的隐私攻击风险展开了首个综合性的分析，提出并验证了三种攻击方法，并探究了两种防御机制的实用性。

    Feb, 2021

  • GNNBleed：利用真实访问 GNN 模型揭示图中的私有边缘

    该论文研究了对抗者拥有黑盒图神经网络模型访问权限的情景下的边缘隐私，通过分析与节点相连的节点的输出来推断节点之间的联系，揭示了即使在具有访问控制机制的系统中，一个适应性对手仍然可以破译节点之间的私密连接，从而揭示潜在敏感关系并损害图的机密性。

    Nov, 2023

  • 图神经网络成员推断攻击

    本文研究了基于图神经网络的成员推理攻击技术，发现 GNN 中结构信息是造成泄漏的主要原因，提出了两种有效防御方法，可将攻击者的推理准确率降低 60%。

    Jan, 2021

  • 图嵌入中隐私泄漏的量化

    本文首次通过三种推理攻击来量化图嵌入中的隐私泄漏，同时提出了对应的攻击策略，包括成员推理攻击、图重构攻击和属性推理攻击，并表明图嵌入与节点属性存在强相关性，让攻击者能够推断敏感信息。

    Oct, 2020

  • 机器学习模型属性推理攻击的 (不) 可行性

    本文研究了在使用机器学习模型提供服务时出现的数据隐私问题，尤其是会员推理攻击和属性推理攻击，并发现基于成员推理攻击的模型很少容易受到属性推理攻击，但是基于近似属性推理的攻击可以获取接近真实属性的结果。

    Mar, 2021

  • 将成员推理攻击应用于 GNN 图分类：方法和影响

    本论文针对图神经网络的成员推断攻击扩展到了整个图记录的成员推断，通过不同的攻击能力实现了两种攻击类型：基于训练的攻击和基于阈值的攻击，并在七个真实数据集中使用五种代表性的 GNN 模型进行了全面的实验评估，结果表明我们的攻击方法是有效的，对于图级分类任务的 MIAs 更多地与 GNN 的过拟合水平有关。

    Oct, 2021

  • 反推攻击图神经网络模型

    该论文对 GNNs 进行了系统研究，提出了 GraphMI 方法用于推断私有训练数据中的离散边缘，建议更有效的隐私防御措施。

    Sep, 2022

  • 针对图神经网络的更实用的对抗性攻击

    研究黑盒攻击图神经网络中节点选择的问题，发现通过基于 PageRank 的重要度计算可提高分类误差率，提出一种基于贪心算法的修正方法能有效地解决被攻击节点数量与分类误差率之间的矛盾。

    Jun, 2020

  • 敏感属性是否处于隐私保护之中？针对分类模型的新型模型倒推属性推理攻击

    本文聚焦于模型反演攻击，介绍了一种新的基于置信度分数的攻击方法和仅需要模型预测标签的攻击方法，并将攻击算法应用在决策树和深度神经网络上，评估了不同数据集在不同身份特征条件下的漏洞性。

    Jan, 2022

  • 一尺之法：面向多种敏感属性的公正图神经网络学习

    最近的研究强调了图神经网络（GNN）中的公平性问题，即 GNN 针对被敏感属性（如种族和年龄）分类的特定保护群体产生了歧视性预测。针对这个问题的不同努力取得了显著进展，但往往专门针对特定的敏感属性，因此需要从头开始对模型进行重新训练以满足敏感属性需求的变化，导致高计算成本。为了更深入地了解这个问题，我们从因果建模的视角来考虑图公平性问题，认为敏感属性引起的混淆效应是其根本原因。出于这一观察的动机，我们从不变学习的角度来公式化图公平性问题，旨在学习跨环境的不变表示。因此，我们提出了一个基于不变学习的图公平性框架，名为 FairINV，它能够在单个训练会话中训练公平的 GNN 模型以适应多种敏感属性。具体而言，FairINV 通过将敏感属性进行划分，并消除标签与各种敏感属性之间的虚假相关性来训练公平的 GNN 模型。在几个真实数据集上的实验证明，FairINV 在公平性方面明显优于最先进的方法，突出了其有效性。我们的代码可通过此 https://URL 获得。

    Jun, 2024