Aug, 2023

XGBD: 说明引导的图形后门检测

PDF
TL;DR我们提出了一种基于解释的后门检测方法，利用拓扑信息来检测后门样本，通过训练一个辅助模型，将图样本输入模型，并采用解释方法将模型预测归因于一个重要的子图，通过观察到后门样本和干净样本的不同归因分布，解释子图可以作为更具有辨别性的特征来检测后门样本，全面的实验验证了我们方法的有效性和可解释性。
backdoor attacksgraph learning modelsbackdoor detectiontopological informationexplanation-guided backdoor detection
发现论文，激发创造
  • 针对图神经网络后门攻击的可解释性防御

    本文提出了第一种基于图神经网络（GNN）的后门攻击检测和防御方法，通过评估模型的透明度和不透明度，识别恶意样本，并利用其可解释性确定最显著的子图，从而减少成功攻击率。

    Sep, 2022

  • 保护 GNNs：基于说明的检测带后门的训练图

    通过开发新的度量方法，探测 Graph Neural Networks 中的后门攻击，并在多个基准数据集上进行测试，取得了较高的检测性能。

    Mar, 2024

  • 基于可解释性的反向门攻击针对图神经网络

    本文探讨了在图神经网络中 backdoor 攻击中，触发信号的注入位置对攻击结果的影响，通过实验证实了基于 GraphLIME 方法选择触发信号注入位置可以提高攻击成功率的有效性。

    Apr, 2021

  • 具有有限信息和数据的黑盒检测后门攻击

    该论文提出一种基于黑盒模型的反向工程优化算法，用于检测深度神经网络中嵌入的恶意后门攻击，并通过检测结果进行有效的可靠预测，实验表明其可以有效地应对多种后门攻击。

    Mar, 2021

  • 基于鲁棒性的图神经网络反后门攻击防御

    图神经网络对抵御不同属性的后门攻击进行了实证验证，并提出了一种随机边缘去除的检测方法，并通过引入新的强化训练策略来有效地抵御触发器的影响。在真实数据集上进行的广泛实验证明，该框架能够有效地识别受到污染的节点，在抵御具有不同属性的不同类型图后门攻击时显著降低攻击成功率，并保持清洁准确性。

    Jun, 2024

  • 基于图神经网络的链路预测任务的后门攻击

    本文介绍了一种基于图神经网络的链接预测任务中的后门攻击方法，并揭示了 GNN 模型中存在的安全漏洞，当触发器出现时，后门将被嵌入 GNN 模型中，导致模型错误地预测未连接的两个节点之间存在链接关系。

    Jan, 2024

  • 重思图形后门攻击：维持分布的视角

    本文研究了一种新颖的问题，即使用分布内的触发器进行不可察觉的图形后门攻击。为了生成分布内的触发器，我们引入了一个离群点检测器和对抗性学习策略，以在分布内生成触发器的属性。在真实世界的数据集上进行的大量实验证明了所提方法在生成可以绕过各种防御策略的分布内触发器的同时，能够保持高攻击成功率。

    May, 2024

  • 邻域背水一战：对图卷积网络的攻击

    本文旨在解决针对图形数据的后门攻击问题，提出了一种称为 “邻近后门” 的后门，通过设置触发节点并将其与目标节点相连接来触发后门，在保持模型准确性的情况下，提出了两种后门方案：线性图卷积后门和现有图攻击变体。经过多次实验，所有提出的后门攻击均能够在几乎不影响预测准确性的情况下实现几乎 100% 的攻击成功率。

    Jan, 2022

  • Motif-Backdoor: 通过 Motifs 重新思考对图神经网络的后门攻击

    本文提出了一种基于图案的后门攻击（Motif-Backdoor），从基序结构和后门攻击效果的相关性解释了后门攻击的有效性，并在不需要目标模型反馈或子图模型生成的情况下实现了有效的触发器结构。

    Oct, 2022

  • Link-Backdoor: 通过节点注入的链路预测后门攻击

    本文研究了在链接预测中的后门攻击问题，并提出了一种基于伪造节点实现触发器优化的 Link-Backdoor 方法，该方法在多个公开基准数据集上进行了测试，并证明了其在白盒和黑盒攻击场景下均具有最先进的攻击成功率，并且在防御情况下，Link-Backdoor 仍然可以成功攻击表现良好的链接预测模型。

    Aug, 2022