May, 2024

基于图神经网络的高效模型窃取攻击

PDF
TL;DR该论文介绍了一种针对归纳式图神经网络的无监督模型窃取攻击的新方法，该方法基于图对比学习和谱图增强，通过从目标模型高效提取信息。在六个数据集上对该攻击进行了全面评估，结果表明该方法相较于现有的窃取攻击具有更高的效率，并在所有基准测试中优于基准测试，实现了更高的窃取模型的保真度和下游准确性，同时对目标模型发送的查询次数较少。
graph neural networksinductive gnnsmodel-stealing attacksgraph dataunsupervised model-stealing attacks
发现论文，激发创造
  • 归纳图神经网络的模型窃取攻击

    本文提出了针对归纳图神经网络的模型盗窃攻击，定义了威胁模型并根据对手的背景知识和目标模型的响应提出了六种攻击方式。在六个基准数据集上的评估结果显示，该攻击方式取得了良好的性能表现。

    Dec, 2021

  • 从图神经网络中窃取链接

    本研究提出了针对图神经网络的链路窃取攻击，并介绍了三个维度的威胁模型以及八种链路窃取攻击方法。在八个真实数据集上的实验表明，攻击是有效的，并揭示了 GNN 模型输出关于训练图结构的丰富信息，证明了在黑盒条件下，一些私密数据可以被窃取。

    May, 2020

  • 对基于归纳图神经网络的链接窃取攻击

    通过针对归纳式图神经网络进行系统隐私分析，本文填补了以往对于归纳式图神经网络的全面隐私分析的空白，并通过对链接窃取攻击的分析，提出了后验攻击和组合攻击两种类型的攻击，发现归纳式图神经网络泄漏大量信息，使得攻击即使在没有关于图结构的先验知识的情况下，也能够有效进行；同时，研究了两种可能的防御方法并发现它们对攻击是无效的，因此需要更有效的防御机制。

    May, 2024

  • 针对图神经网络的节点级成员资格推断攻击

    本研究针对图神经网络的隐私攻击风险展开了首个综合性的分析，提出并验证了三种攻击方法，并探究了两种防御机制的实用性。

    Feb, 2021

  • 图神经网络模型提取攻击：分类和实现

    该论文研究了机器学习模型面临的模型训练攻击问题，在实验中成功地运用了攻击方法将 GNN 模型复制出来，可对图形结构和节点特征进行提取攻击

    Oct, 2020

  • 模型窃取攻击对图分类的真实性、不确定性和多样性

    最近的研究表明，GNN 对于模型盗取攻击是脆弱的，而这种攻击是通过查询许可来复制目标模型的阴险行为。然而，这些研究主要关注节点分类任务，忽视了在图分类任务领域所带来的潜在威胁。此外，它们的可行性令人质疑，因为涉及了大量的数据需求和广泛的模型知识。为此，我们倡导遵循严格的设置，通过有限的真实数据和硬标签意识来生成合成数据，从而便于盗取目标模型。具体地，我们遵循重要的数据生成原则，引入了三种模型盗取攻击方法，以适应不同的实际场景：MSA-AU 受主动学习的启发，强调不确定性以增强生成样本的查询价值；MSA-AD 基于 Mixup 增强策略引入多样性，以减轻 MSA-AU 生成的过于相似样本所导致的查询效率问题；MSA-AUD 结合了上述两种策略，无缝地整合了生成样本的真实性、不确定性和多样性。最后，广泛的实验证明了所提方法在隐藏性、查询效率和盗取性能方面的优越性。

    Dec, 2023

  • 反推攻击图神经网络模型

    该论文对 GNNs 进行了系统研究，提出了 GraphMI 方法用于推断私有训练数据中的离散边缘，建议更有效的隐私防御措施。

    Sep, 2022

  • 图神经网络成员推断攻击

    本文研究了基于图神经网络的成员推理攻击技术，发现 GNN 中结构信息是造成泄漏的主要原因，提出了两种有效防御方法，可将攻击者的推理准确率降低 60%。

    Jan, 2021

  • 针对图神经网络的更实用的对抗性攻击

    研究黑盒攻击图神经网络中节点选择的问题，发现通过基于 PageRank 的重要度计算可提高分类误差率，提出一种基于贪心算法的修正方法能有效地解决被攻击节点数量与分类误差率之间的矛盾。

    Jun, 2020

  • 针对图神经网络的链接窃取攻击的大型语言模型

    利用大型语言模型在图神经网络中进行链接窃取攻击，通过多数据集微调实现攻击性能的显著提升，使得链接窃取攻击更适用于实际场景。

    Jun, 2024