关于同质和异质图神经网络的模型反演攻击

Oct, 2023

关于同质和异质图神经网络的模型反演攻击

Model Inversion Attacks on Homogeneous and Heterogeneous Graph Neural Networks

Renyang Liu, Wei Zhou, Jinhong Zhang, Xiaoyuan Liu, Peiyuan Si...

TL;DR我们提出了一种新的模型反演攻击方法，名为 HomoGMI 和 HeteGMI，旨在通过最大化目标 GNN 上的交叉熵损失和重构图上的第一和第二阶近似程度优化方法，在多个基准测试中的实验证明，该方法可以比竞争对手获得更好的性能。

Abstract

Recently, graph neural networks (GNNs), including Homogeneous Graph Neural Networks (HomoGNNs) and Heterogeneous graph neural networks (HeteGNNs), have made remarkable progress in many physical scenarios, especia

graph neural networks privacy model inversion attacks homogmi hetegmi

发现论文，激发创造

反推攻击图神经网络模型

该论文对 GNNs 进行了系统研究，提出了 GraphMI 方法用于推断私有训练数据中的离散边缘，建议更有效的隐私防御措施。

Sep, 2022

GraphMI: 从图神经网络中提取私有图数据

机器学习的广泛应用使得隐私问题变得尤为紧迫。本文提出了一种名为 Graph Model Inversion Attack (GraphMI) 的攻击方法，旨在通过反演目标模型中的 GNN，从而提取训练图的私有图数据。我们提出了投影梯度模块来解决图的离散性问题，并设计了图自编码器模块来高效利用图拓扑、节点属性和目标模型参数进行边缘推断。我们还展示了模型反演风险与边缘影响之间的联系，并在几个公共数据集上进行了广泛的实验以证明我们方法的有效性。此外，我们还表明最基本的差分隐私几乎无法保护我们的攻击同时保持良好的效用。

Jun, 2021

HGAttack: 可转移的异构图对抗攻击

HGAttack 是针对异构图设计的首个灰盒逃避攻击方法，通过设计一种新颖的代理模型，利用梯度方法实现扰动生成，提高了生成攻击在目标 HGNN 上的可转移性并显著降低了内存成本。在三个数据集上的综合实验证实了 HGAttack 的有效性。

Jan, 2024

知识增强的分布式模型反演攻击

本文提出了一种基于 Inversion-specific GAN 的新型模型反演攻击方法，通过训练鉴别器不仅区分真伪样本，而且包括目标模型提供的软标签，进而为每个目标类建模私人数据分布，成功率比先前的攻击方式有所提高（150%），而且普适于多种数据集和模型。

Oct, 2020

图神经网络成员推断攻击

本文研究了基于图神经网络的成员推理攻击技术，发现 GNN 中结构信息是造成泄漏的主要原因，提出了两种有效防御方法，可将攻击者的推理准确率降低 60%。

Jan, 2021

基于动量梯度的超图神经网络非定向攻击

通过设计一种新的 HGNNs 攻击模型，即 MGHGA，集中在修改节点特征上，本论文试图填补现有研究中对 HGNNs 敌对攻击的研究空白，通过在特征选择和特征修改模块中使用动量梯度机制和特征生成方法，MGHGA 能够在离散和连续数据集上有效对节点和视觉对象分类任务进行攻击，并在实验证明相对于基准方法，MGHGA 的攻击性能平均提升了 2%。

Oct, 2023

神秘揭露者：针对深度神经网络的生成模型反演攻击

本文介绍了一种新型攻击方法 —— 生成模型反演攻击，它可以显著地提高逆转深度神经网络的准确率，攻击者使用部分公共信息学习分布先验，引导逆转过程，并且通过实验证明了差分隐私在该攻击下的防御效果有限。

Nov, 2019

归纳图神经网络的模型窃取攻击

本文提出了针对归纳图神经网络的模型盗窃攻击，定义了威胁模型并根据对手的背景知识和目标模型的响应提出了六种攻击方式。在六个基准数据集上的评估结果显示，该攻击方式取得了良好的性能表现。

Dec, 2021

针对图神经网络的节点级成员资格推断攻击

本研究针对图神经网络的隐私攻击风险展开了首个综合性的分析，提出并验证了三种攻击方法，并探究了两种防御机制的实用性。

Feb, 2021

基于图神经网络的高效模型窃取攻击

该论文介绍了一种针对归纳式图神经网络的无监督模型窃取攻击的新方法，该方法基于图对比学习和谱图增强，通过从目标模型高效提取信息。在六个数据集上对该攻击进行了全面评估，结果表明该方法相较于现有的窃取攻击具有更高的效率，并在所有基准测试中优于基准测试，实现了更高的窃取模型的保真度和下游准确性，同时对目标模型发送的查询次数较少。

May, 2024