Aug, 2023

同时扰乱一切：实现可微分的图攻击

PDF
TL;DR通过对图结构进行连续松弛和参数化，我们提出了一种名为 Differentiable Graph Attack（DGA）的新型攻击方法，以高效生成有效的攻击并同时消除了昂贵的重新训练的需求。与最新技术相比，DGA 在不同基准数据集上实现了几乎相等的攻击性能，训练时间减少了 6 倍，GPU 内存占用减少了 11 倍。此外，我们还对 DGA 在不同图模型之间的可转移性以及对广泛使用的防御机制的鲁棒性进行了广泛的实验分析。
graph neural networksadversarial attacksdifferentiable graph attacktransferabilitydefense mechanisms
发现论文，激发创造
  • 大规模图的对抗攻击

    本文提出了一种简化梯度攻击的方法，可以通过多阶段攻击框架在只需较小子图的情况下使图神经网络误分类。此外，作者还提出了度同配改变这一实用指标来衡量对图数据的对抗攻击的影响。

    Sep, 2020

  • 图形上的对抗攻击与防御：一项综述，一项工具和实证研究

    该研究论文介绍 Deep Neural Networks 和 Graph Neural Networks 对抗攻击的脆弱性，提出了相关攻击和防御的借鉴，以及一个算法库用于研究对抗攻击和防御。

    Mar, 2020

  • 稳健图神经网络的图结构学习

    本文探讨了图神经网络在面临敌对攻击时的脆弱性，并提出了一种名为 Pro-GNN 的框架，以基于真实世界图形的内在属性来联合学习结构性图形和稳健性 GNN 模型以应对此问题。通过实验表明，Pro-GNN 在防御敌对攻击方面表现优异。

    May, 2020

  • 图神经网络的拓扑攻击与防御：优化视角

    本文提出了基于梯度的攻击方法，以解决离散图数据的难点，并基于此提出了第一个面向图神经网络的基于优化的对抗训练，可以提高不同梯度和贪心攻击方法的鲁棒性，同时不牺牲原始图的分类准确性。

    Jun, 2019

  • 元学习对图神经网络的对抗攻击

    通过使用元梯度将图形视为超参数进行优化，我们研究了对节点分类的图神经网络进行训练时间攻击，发现即使对无监督嵌入也会出现性能下降，甚至会产生误导效应。

    Feb, 2019

  • 通过重连对图卷积网络进行攻击

    本文提出了一种针对图神经网络的对抗攻击方法，通过图重连的操作，使用强化学习生成对于目标模型影响较小的扰动，并在真实图数据集上进行实验及分析，证明该方法的有效性。

    Jun, 2019

  • 网络嵌入的快速梯度攻击

    本研究基于图卷积网络的渐变信息生成对抗性网络，在社交网络等情境中，通过只重新链接少量节点即可干扰网络嵌入，保护目标节点的隐私。

    Sep, 2018

  • MGA: 动量梯度攻击网络

    本文针对基于梯度信息的对抗攻击方法，对深度学习模型的图嵌入算法的有效性造成了影响，提出了一种动量梯度攻击（Momentum Gradient Attack，MGA）算法。该方法通过将动量项融合到迭代过程中，可以稳定更新方向，使模型跳出较差的局部最优解，并增强了其转移能力，实现了更具侵略性的攻击。实验表明，MGA 算法具有更好的攻击效果和转移能力。

    Feb, 2020

  • GNNGuard: 防御图神经网络的对抗攻击

    GNNGuard 是一个通用的算法，可以防御基于离散图形结构的多种训练时攻击，利用图形结构和节点特征之间的关系减轻攻击的负面影响，通过将更高的权重分配给连接相似节点的边，修剪不相关节点之间的边，这种方法在不同数据集和攻击条件下表现出 15.3％的优越性。

    Jun, 2020

  • 基于可解释性的图形边缘扰动对抗攻击

    研究了图神经网络在测试时间遭受对抗攻击的影响，通过边扰动进行节点之间的重要性识别和边的改变，发现在节点分类中引入不同类别节点之间的边相比于移除同一类别节点之间的边具有更大的影响。

    Dec, 2023