Dec, 2023

OCGEC: 基于图嵌入的一类分类方法用于深度神经网络后门检测

PDF
TL;DR本研究提出了一种称为 OCGEC 的新型单一类别分类框架，使用少量的清洁数据和基于图神经网络（GNNs）的模型级后门检测来检测后门攻击。与其他基线相比，在许多任务上，我们的 OCGEC 方法实现了超过 98％的 AUC 分数，大大超过现有的方法，并且无需依赖大量的正样本和负样本。我们对图形场景的创新应用为泛用后门检测提供了新的见解，可用于改进其他后门防御任务。
发现论文，激发创造
  • 使用单类神经网络进行异常检测

    本文提出了一种一类神经网络（OC-NN）模型，该模型结合了深层网络提取数据的逐渐丰富的表示能力和创造紧密包围正常数据的单类目标，从而可以检测复杂数据集中的异常值，实验证明该方法表现良好。

    Feb, 2018

  • 图神经网络的后门攻击

    本文提出了一种基于子图的背门攻击方法，可以对图神经网络进行攻击。在实验中发现，该攻击在对干净测试图的预测准确率影响较小，同时也提出了一种随机平滑的认证防御策略，但该防御策略在某些情况下无效。

    Jun, 2020

  • 仅使用污染标签的图卷积网络的干净图反向门路攻击

    该研究提出了一种对图卷积网络（GCNs）进行干净图后门攻击（CBAG）的方法，在节点分类任务中仅通过污染训练标签而不对训练样本进行任何修改，揭示了 GCNs 的安全漏洞。实验结果表明，我们的干净图后门攻击能够在保持 GCNs 模型正常功能的同时实现 99% 的攻击成功率。

    Apr, 2024

  • 保护 GNNs：基于说明的检测带后门的训练图

    通过开发新的度量方法，探测 Graph Neural Networks 中的后门攻击，并在多个基准数据集上进行测试，取得了较高的检测性能。

    Mar, 2024

  • EDoG: 图神经网络的对抗性边缘检测

    本文提出了一种无攻击策略知识的通用敌对边缘检测方法 EDoG，在图形生成的基础上通过联系预测来检测可疑的敌对边缘，并提出一组新的特征来进行异常检测。实验表明，EDoG 可以在不需要任何有关攻击类型的知识下实现 0.8 以上的 AUC，显着优于传统的恶意边缘检测基线。

    Dec, 2022

  • 图形后门

    研究探讨了 GNN 中的防后门攻击，提出了一种新的攻击方法 GTA，可以在各类安全应用中袭击任何实验中的模型；该攻击方法是基于子图，能够在不了解下游模型或微调策略的情况下立即启动，并在基准数据集和最先进的模型上进行了广泛的评估。

    Jun, 2020

  • 基于图神经网络的链路预测任务的后门攻击

    本文介绍了一种基于图神经网络的链接预测任务中的后门攻击方法，并揭示了 GNN 模型中存在的安全漏洞，当触发器出现时，后门将被嵌入 GNN 模型中，导致模型错误地预测未连接的两个节点之间存在链接关系。

    Jan, 2024

  • 节点分类任务中的基于无标签图的后门攻击方法

    传统图神经网络领域中的后门攻击因混淆的标签而容易被检测，为了探索图神经网络的后门漏洞并创建更隐秘的后门攻击方法，本文提出了一种基于无干扰节点分类任务的干净标签图后门攻击方法（CGBA）。与已有的后门攻击方法不同，CGBA 既不需要修改节点标签也不需要修改图结构。具体而言，为了解决样本内容与标签不一致的问题，CGBA 在特定目标类中选择污染样本，并将样本的标签（即干净标签）作为目标标签注入到目标样本中。为了保证相邻节点的相似性，CGBA 精心选择节点的原始特征作为触发器，进一步提高触发器的隐蔽性。广泛实验结果表明我们的方法的有效性。当污染率为 0.04 时，CGBA 可以分别实现 87.8%、98.9%、89.1% 和 98.5% 的平均攻击成功率。

    Dec, 2023

  • OLGA：一种单类图自编码器

    OLGA 是一种端到端的图节点表示学习方法，通过结合两个损失函数来封装感兴趣的实例，其中包括一个新的超球面损失函数，以改善模型学习。OLGA 通过学习低维表示来保持分类性能，并提供了可解释的模型表示学习和结果。

    Jun, 2024

  • 重思图形后门攻击：维持分布的视角

    本文研究了一种新颖的问题，即使用分布内的触发器进行不可察觉的图形后门攻击。为了生成分布内的触发器，我们引入了一个离群点检测器和对抗性学习策略，以在分布内生成触发器的属性。在真实世界的数据集上进行的大量实验证明了所提方法在生成可以绕过各种防御策略的分布内触发器的同时，能够保持高攻击成功率。

    May, 2024