Aug, 2022

图结构上的梯度在灰盒攻击中可靠吗？

PDF
TL;DR本文分析并讨论了结构梯度不可靠性问题对图嵌入分类预测的影响，提出一种新的攻击模型和方法来减小这些误差。提出了边缘离散取样、候选选择和语义不变性等方法来提高攻击效率和稳定性，实验结果表明了新方法的优越性。
graph neural networksedge perturbationssurrogate modelattack modelstructural gradients
发现论文，激发创造
  • 攻击图结构时梯度告诉我们什么

    该研究证明了图神经网络容易受到对抗性攻击，在此基础上提出了一种多跳聚合的信息传递和正则化方法以增强对抗攻击的隐蔽性和攻击性能。

    Aug, 2022

  • 图神经网络对抗性结构扰动的可靠鲁棒性认证

    本研究针对图形结构数据，基于随机平滑技术，开发出可证明鲁棒性的图神经网络，证明其对于节点和图分类具有结构扰动的认证鲁棒性保证，并在多个 GNN 和多个基准数据集上进行了实证评估。

    Aug, 2020

  • 针对图神经网络的更实用的对抗性攻击

    研究黑盒攻击图神经网络中节点选择的问题，发现通过基于 PageRank 的重要度计算可提高分类误差率，提出一种基于贪心算法的修正方法能有效地解决被攻击节点数量与分类误差率之间的矛盾。

    Jun, 2020

  • 理解图卷积网络的结构脆弱性

    本篇论文从理论和实证角度证明了图卷积网络的非鲁棒性汇聚方案（如加权平均）导致了结构对抗示例容易成功；而使用高断点的汇聚方案（如中位数或修剪平均）可显著提高 GCNs 的鲁棒性能。实验表明，该简单有效方法比现有的其他模型具有最佳的鲁棒性能。

    Aug, 2021

  • HGAttack: 可转移的异构图对抗攻击

    HGAttack 是针对异构图设计的首个灰盒逃避攻击方法，通过设计一种新颖的代理模型，利用梯度方法实现扰动生成，提高了生成攻击在目标 HGNN 上的可转移性并显著降低了内存成本。在三个数据集上的综合实验证实了 HGAttack 的有效性。

    Jan, 2024

  • 利用赌博机构造基于结构扰动的黑盒攻击对带有理论保证的图神经网络

    本文主要研究黑盒攻击下的图神经网络，提出一种基于赌徒技巧的在线优化攻击方法，证明其具有亚线性的复杂度和理论保障，实验结果表明该攻击方法既有效又高效。

    May, 2022

  • HyperAttack：超图神经网络白盒敌对结构攻击的多梯度引导方法

    本论文介绍了 HyperAttack-- 第一个针对超图神经网络的白盒子对抗攻击框架，提高了攻击成功率和时间效率，作为一种结构攻击方法，通过扰乱向目标节点连接的超边状态，并引导梯度和集成梯度。

    Feb, 2023

  • 基于图神经网络的网络入侵检测系统的问题空间结构对抗攻击

    机器学习在网络入侵检测系统中被广泛应用，但其易受到对抗性攻击的影响。本文提出了特定于图神经网络的对抗性攻击的形式化，并模拟了现实场景中可行的结构攻击。同时，通过实验验证了这些模型对经典基于特征的对抗性攻击的抵抗力提升，同时也展示了它们对结构攻击的脆弱性。

    Mar, 2024

  • 图结构数据对抗攻击

    本文研究了基于图结构的深度学习模型的鲁棒性问题，针对修改数据的组合结构而导致模型攻击的问题，提出了基于强化学习的攻击方法，同时引入遗传算法和梯度法等多种变形方法来进行攻击，并通过实验验证了针对图级别和节点级别分类任务的多种图神经网络模型都具有易受攻击性，同时这些攻击手段可以用来进一步诊断分类器。

    Jun, 2018

  • 探索对深度神经网络的黑箱攻击空间

    提出了一种新的基于梯度估计的黑盒攻击方法，攻击者可以查询目标模型的类概率，无需使用可转移性。该攻击在 MNIST 和 CIFAR-10 数据集上的攻击成功率均超过 100％，同时成功攻击了 Clarifai 的实时图像分类器和最新防御方法。

    Dec, 2017