Dec, 2023

基于可解释性的图形边缘扰动对抗攻击

PDF
TL;DR研究了图神经网络在测试时间遭受对抗攻击的影响，通过边扰动进行节点之间的重要性识别和边的改变，发现在节点分类中引入不同类别节点之间的边相比于移除同一类别节点之间的边具有更大的影响。
graph neural networksadversarial attacksedge perturbationsnode classificationexplainability-based method
发现论文，激发创造
  • 图数据增广和攻击中的图神经网络边扰动再思考

    该研究提出了边界扰动方法的两个类别，并通过实验和理论的统一构建了边界扰动方法的工作流程。同时，引入了边界优先检测器（EPD），通过较少的时间开销实现了灵活的增强或攻击，并获得了可比或更好的性能。

    Mar, 2024

  • 可解释的图神经网络挑战

    图神经网络 (GNN) 的预测通常缺乏可解释性，因为其复杂的计算行为和图的抽象特性，为解决这一问题，出现了许多 GNN 解释方法，它们的目标是解释模型的预测结果，从而在 GNN 模型在决策关键应用中部署时获得信任，但是，大多数 GNN 解释方法都是事后提供解释，以一小部分重要的边缘和 / 或节点的形式，本文表明这些解释不能被信任，因为常见的 GNN 解释方法对对抗扰动非常敏感，这对 GNN 解释方法的可信度和实际效用提出了疑问，我们提出了一种新的攻击方法，称为 GXAttack，这是第一个针对事后 GNN 解释的基于优化的对抗攻击方法，由于我们攻击的毁灭性有效性，我们呼吁对未来的 GNN 解释器进行对抗性评估，以证明它们的鲁棒性。

    Jun, 2024

  • 图形神经网络解释是脆弱的

    解释性图神经网络的解释器在对抗性攻击下表现脆弱

    Jun, 2024

  • 在保留解释的图扰动下的 PAC 可学习性

    图形模型及图神经网络中的解释辅助学习和数据增强的研究，探讨了解释辅助学习规则和数据增强方法，以及它们在训练中的优势和限制。

    Feb, 2024

  • 通过重连对图卷积网络进行攻击

    本文提出了一种针对图神经网络的对抗攻击方法，通过图重连的操作，使用强化学习生成对于目标模型影响较小的扰动，并在真实图数据集上进行实验及分析，证明该方法的有效性。

    Jun, 2019

  • 图数据神经网络的对抗攻击

    本文主要介绍了第一项针对属性通用图的对抗攻击研究，特别关注利用图卷积思想的模型，在针对测试及训练阶段的攻击中生成针对节点特征和图结构的对抗扰动，并确保这些扰动在保存重要数据特征的同时，不被察觉，旨在帮助更好地理解和缓解目前深度学习模型在对抗环境下的不足。

    May, 2018

  • 攻击图结构时梯度告诉我们什么

    该研究证明了图神经网络容易受到对抗性攻击，在此基础上提出了一种多跳聚合的信息传递和正则化方法以增强对抗攻击的隐蔽性和攻击性能。

    Aug, 2022

  • 稳健图神经网络的图结构学习

    本文探讨了图神经网络在面临敌对攻击时的脆弱性，并提出了一种名为 Pro-GNN 的框架，以基于真实世界图形的内在属性来联合学习结构性图形和稳健性 GNN 模型以应对此问题。通过实验表明，Pro-GNN 在防御敌对攻击方面表现优异。

    May, 2020

  • 可解释的人工智能安全：探索图神经网络对对抗攻击的鲁棒性

    图神经网络 (GNNs) 的脆弱性研究，通过系统性地考虑图数据模式、模型特定因素和对抗样本的传递性，揭示了对抗攻击对 GNN 的影响，从而为提高 GNN 的对抗鲁棒性提供了相关的准则和原则。

    Jun, 2024

  • 图神经网络的拓扑攻击与防御：优化视角

    本文提出了基于梯度的攻击方法，以解决离散图数据的难点，并基于此提出了第一个面向图神经网络的基于优化的对抗训练，可以提高不同梯度和贪心攻击方法的鲁棒性，同时不牺牲原始图的分类准确性。

    Jun, 2019