Jul, 2024

关于图缩减的鲁棒性与 GNN 后门攻击

PDF
TL;DR本文通过对六种粗化方法和六种稀疏化方法的综合鲁棒性分析，研究了图结构规模的 GN 任务中图规约方法在最新的后门攻击下的鲁棒性，结果表明鲁棒性因方法而异，一些方法甚至加剧了攻击，因此要确保图规约方法的计算效率提升不会危及 GN 系统的安全性。
graph neural networksbackdoor poisoning attacksgraph reduction techniquesrobustness analysisgnn architectures
发现论文，激发创造
  • 基于鲁棒性的图神经网络反后门攻击防御

    图神经网络对抵御不同属性的后门攻击进行了实证验证，并提出了一种随机边缘去除的检测方法，并通过引入新的强化训练策略来有效地抵御触发器的影响。在真实数据集上进行的广泛实验证明，该框架能够有效地识别受到污染的节点，在抵御具有不同属性的不同类型图后门攻击时显著降低攻击成功率，并保持清洁准确性。

    Jun, 2024

  • 保护 GNNs：基于说明的检测带后门的训练图

    通过开发新的度量方法，探测 Graph Neural Networks 中的后门攻击，并在多个基准数据集上进行测试，取得了较高的检测性能。

    Mar, 2024

  • 图神经网络抵抗注入攻击的鲁棒性转移

    该研究致力于探索清洗图形对提高图神经网络抵御毒化攻击的潜力。提出了一种基于惩罚聚合机制的方法（PA-GNN），该方法通过使用清洗图形和其毒化对应物来训练图神经网络来惩罚干扰项，从而提高了图神经网络对于图形污染攻击的鲁棒性。

    Aug, 2019

  • 重思图形后门攻击：维持分布的视角

    本文研究了一种新颖的问题，即使用分布内的触发器进行不可察觉的图形后门攻击。为了生成分布内的触发器，我们引入了一个离群点检测器和对抗性学习策略，以在分布内生成触发器的属性。在真实世界的数据集上进行的大量实验证明了所提方法在生成可以绕过各种防御策略的分布内触发器的同时，能够保持高攻击成功率。

    May, 2024

  • 图神经网络的后门攻击

    本文提出了一种基于子图的背门攻击方法，可以对图神经网络进行攻击。在实验中发现，该攻击在对干净测试图的预测准确率影响较小，同时也提出了一种随机平滑的认证防御策略，但该防御策略在某些情况下无效。

    Jun, 2020

  • 大规模图神经网络的健壮性

    本文研究了如何攻击和防御大规模 GNN，设计了一种高效表示的稀疏感知优化攻击和鲁棒的聚合函数 ——Soft Median，并且展示了优于常见代理损失函数的全局攻击替代方案。

    Oct, 2021

  • 图神经后门：基础、方法学、应用与未来发展方向

    通过定义、总结与分类当前的 GNN 后门攻击和防御，应用场景的分析以及对 GNN 后门潜在研究方向的探索，本论文提供了对 GNN 后门的调查，并在图后门原理方面做出探索，为防御方提供见解并推动未来的安全研究。

    Jun, 2024

  • 可转移的图形后门攻击

    本研究发现并展示了 TRAP 攻击，一种生成可转移的背门攻击（transferable backdoor attacks）的新型杂质触发方法，该攻击利用 surrogate Graph Convolutional Network（GCN）模型生成样本特定的干扰触发器，可以被转移到不同的 GNN 模型中，是一种新型的黑盒背门攻击。

    Jun, 2022

  • 针对图神经网络后门攻击的可解释性防御

    本文提出了第一种基于图神经网络（GNN）的后门攻击检测和防御方法，通过评估模型的透明度和不透明度，识别恶意样本，并利用其可解释性确定最显著的子图，从而减少成功攻击率。

    Sep, 2022

  • 基于可解释性的反向门攻击针对图神经网络

    本文探讨了在图神经网络中 backdoor 攻击中，触发信号的注入位置对攻击结果的影响，通过实验证实了基于 GraphLIME 方法选择触发信号注入位置可以提高攻击成功率的有效性。

    Apr, 2021