Dec, 2023

节点分类任务中的基于无标签图的后门攻击方法

PDF
TL;DR传统图神经网络领域中的后门攻击因混淆的标签而容易被检测，为了探索图神经网络的后门漏洞并创建更隐秘的后门攻击方法，本文提出了一种基于无干扰节点分类任务的干净标签图后门攻击方法（CGBA）。与已有的后门攻击方法不同，CGBA 既不需要修改节点标签也不需要修改图结构。具体而言，为了解决样本内容与标签不一致的问题，CGBA 在特定目标类中选择污染样本，并将样本的标签（即干净标签）作为目标标签注入到目标样本中。为了保证相邻节点的相似性，CGBA 精心选择节点的原始特征作为触发器，进一步提高触发器的隐蔽性。广泛实验结果表明我们的方法的有效性。当污染率为 0.04 时，CGBA 可以分别实现 87.8%、98.9%、89.1% 和 98.5% 的平均攻击成功率。
backdoor attacksgraph neural networkscgbanode classificationpoisoning samples
发现论文，激发创造
  • 仅使用污染标签的图卷积网络的干净图反向门路攻击

    该研究提出了一种对图卷积网络（GCNs）进行干净图后门攻击（CBAG）的方法，在节点分类任务中仅通过污染训练标签而不对训练样本进行任何修改，揭示了 GCNs 的安全漏洞。实验结果表明，我们的干净图后门攻击能够在保持 GCNs 模型正常功能的同时实现 99% 的攻击成功率。

    Apr, 2024

  • 图神经网络的后门攻击

    本文提出了一种基于子图的背门攻击方法，可以对图神经网络进行攻击。在实验中发现，该攻击在对干净测试图的预测准确率影响较小，同时也提出了一种随机平滑的认证防御策略，但该防御策略在某些情况下无效。

    Jun, 2020

  • 基于图神经网络的链路预测任务的后门攻击

    本文介绍了一种基于图神经网络的链接预测任务中的后门攻击方法，并揭示了 GNN 模型中存在的安全漏洞，当触发器出现时，后门将被嵌入 GNN 模型中，导致模型错误地预测未连接的两个节点之间存在链接关系。

    Jan, 2024

  • 针对图神经网络后门攻击的可解释性防御

    本文提出了第一种基于图神经网络（GNN）的后门攻击检测和防御方法，通过评估模型的透明度和不透明度，识别恶意样本，并利用其可解释性确定最显著的子图，从而减少成功攻击率。

    Sep, 2022

  • 基于可解释性的反向门攻击针对图神经网络

    本文探讨了在图神经网络中 backdoor 攻击中，触发信号的注入位置对攻击结果的影响，通过实验证实了基于 GraphLIME 方法选择触发信号注入位置可以提高攻击成功率的有效性。

    Apr, 2021

  • 邻域背水一战：对图卷积网络的攻击

    本文旨在解决针对图形数据的后门攻击问题，提出了一种称为 “邻近后门” 的后门，通过设置触发节点并将其与目标节点相连接来触发后门，在保持模型准确性的情况下，提出了两种后门方案：线性图卷积后门和现有图攻击变体。经过多次实验，所有提出的后门攻击均能够在几乎不影响预测准确性的情况下实现几乎 100% 的攻击成功率。

    Jan, 2022

  • 重思图形后门攻击：维持分布的视角

    本文研究了一种新颖的问题，即使用分布内的触发器进行不可察觉的图形后门攻击。为了生成分布内的触发器，我们引入了一个离群点检测器和对抗性学习策略，以在分布内生成触发器的属性。在真实世界的数据集上进行的大量实验证明了所提方法在生成可以绕过各种防御策略的分布内触发器的同时，能够保持高攻击成功率。

    May, 2024

  • 图神经网络黑盒节点注入攻击

    本文通过建立节点注入攻击的马尔科夫决策过程模型，提出了一种基于强化学习框架 （GA2C）的节点注入方法，将注入节点结构化地插入原图中。研究结果表明，与现有最先进的方法相比，本文提出的 GA2C 方法具有更高的注入成功率和分类误差率。

    Feb, 2022

  • 基于鲁棒性的图神经网络反后门攻击防御

    图神经网络对抵御不同属性的后门攻击进行了实证验证，并提出了一种随机边缘去除的检测方法，并通过引入新的强化训练策略来有效地抵御触发器的影响。在真实数据集上进行的广泛实验证明，该框架能够有效地识别受到污染的节点，在抵御具有不同属性的不同类型图后门攻击时显著降低攻击成功率，并保持清洁准确性。

    Jun, 2024

  • 通过属性触发实现具有干净标签的样本特定后门攻击

    基于内容相关特征设计的背景攻击（BAAT）是一种有效且抵抗现有防御方法的攻击范例。

    Dec, 2023