May, 2024

Disttack: 面向分布式 GNN 训练的图对抗攻击

PDF
TL;DRDisttack 是用于分布式 GNN 训练的首个对抗攻击框架，通过在单个计算节点中注入对抗攻击来破坏分布式 GNN 训练的梯度同步，导致训练后 GNN 的性能显著下降。
graph neural networksadversarial attacksdistributed gnn traininggradient synchronizationdisttack
发现论文，激发创造
  • 同时扰乱一切：实现可微分的图攻击

    通过对图结构进行连续松弛和参数化，我们提出了一种名为 Differentiable Graph Attack（DGA）的新型攻击方法，以高效生成有效的攻击并同时消除了昂贵的重新训练的需求。与最新技术相比，DGA 在不同基准数据集上实现了几乎相等的攻击性能，训练时间减少了 6 倍，GPU 内存占用减少了 11 倍。此外，我们还对 DGA 在不同图模型之间的可转移性以及对广泛使用的防御机制的鲁棒性进行了广泛的实验分析。

    Aug, 2023

  • 大规模图的对抗攻击

    本文提出了一种简化梯度攻击的方法，可以通过多阶段攻击框架在只需较小子图的情况下使图神经网络误分类。此外，作者还提出了度同配改变这一实用指标来衡量对图数据的对抗攻击的影响。

    Sep, 2020

  • 图形上的对抗攻击与防御：一项综述，一项工具和实证研究

    该研究论文介绍 Deep Neural Networks 和 Graph Neural Networks 对抗攻击的脆弱性，提出了相关攻击和防御的借鉴，以及一个算法库用于研究对抗攻击和防御。

    Mar, 2020

  • 图神经网络的对抗性训练

    本文介绍了对抗训练在解决图神经网络中的结构扰动方面的局限并展示了基于可学习图扩散的灵活图神经网络和针对多节点和全局约束的结构扰动攻击，进一步证明了对抗训练作为对抗性结构扰动的最先进防御手段。

    Jun, 2023

  • 图神经网络中的任务和模型无关的对抗攻击

    本文研究了对图神经网络（GNN）进行对抗攻击（Adversarial attacks）的问题，并提出了一种名为 TANDIS（Targeted Attack via Neighborhood DIStortion）的算法，它通过扭曲节点邻域来极大地破坏了预测性能。经过实验验证，TANDIS 算法具有高效性和有效性。

    Dec, 2021

  • 稳健图神经网络的图结构学习

    本文探讨了图神经网络在面临敌对攻击时的脆弱性，并提出了一种名为 Pro-GNN 的框架，以基于真实世界图形的内在属性来联合学习结构性图形和稳健性 GNN 模型以应对此问题。通过实验表明，Pro-GNN 在防御敌对攻击方面表现优异。

    May, 2020

  • 图数据神经网络的对抗攻击

    本文主要介绍了第一项针对属性通用图的对抗攻击研究，特别关注利用图卷积思想的模型，在针对测试及训练阶段的攻击中生成针对节点特征和图结构的对抗扰动，并确保这些扰动在保存重要数据特征的同时，不被察觉，旨在帮助更好地理解和缓解目前深度学习模型在对抗环境下的不足。

    May, 2018

  • 图神经网络的拓扑攻击与防御：优化视角

    本文提出了基于梯度的攻击方法，以解决离散图数据的难点，并基于此提出了第一个面向图神经网络的基于优化的对抗训练，可以提高不同梯度和贪心攻击方法的鲁棒性，同时不牺牲原始图的分类准确性。

    Jun, 2019

  • GNNGuard: 防御图神经网络的对抗攻击

    GNNGuard 是一个通用的算法，可以防御基于离散图形结构的多种训练时攻击，利用图形结构和节点特征之间的关系减轻攻击的负面影响，通过将更高的权重分配给连接相似节点的边，修剪不相关节点之间的边，这种方法在不同数据集和攻击条件下表现出 15.3％的优越性。

    Jun, 2020

  • 通过重连对图卷积网络进行攻击

    本文提出了一种针对图神经网络的对抗攻击方法，通过图重连的操作，使用强化学习生成对于目标模型影响较小的扰动，并在真实图数据集上进行实验及分析，证明该方法的有效性。

    Jun, 2019