AAAIFeb, 2024

图神经网络中节点属性的攻击

PDF
TL;DR通过特征基对抗攻击研究了图在现代社交媒体和学术应用中所具有的复杂网络，并侧重于决策时攻击和毒化攻击，与 Net Attack 和 Meta Attack 等现有模型不同，我们的研究专门针对节点属性。利用 Hellaswag 文本数据集和 Cora 以及 CiteSeer 图数据集进行了分析，结果发现使用投影梯度下降的决策时攻击比使用平均节点嵌入和图对比学习策略的毒化攻击更强大，这为图数据安全提供了启示，指出了图模型最脆弱的部分，从而推动了对此类攻击的更强大防御机制的开发。
发现论文，激发创造
  • 图数据神经网络的对抗攻击

    本文主要介绍了第一项针对属性通用图的对抗攻击研究，特别关注利用图卷积思想的模型，在针对测试及训练阶段的攻击中生成针对节点特征和图结构的对抗扰动，并确保这些扰动在保存重要数据特征的同时，不被察觉，旨在帮助更好地理解和缓解目前深度学习模型在对抗环境下的不足。

    May, 2018

  • 通过图毒化对节点嵌入进行对抗攻击

    本研究针对网络表征学习方法中基于随机游走的广泛使用问题，提供了首个对其鲁棒性的对抗性漏洞分析，提出有效的对抗性扰动对网络结构造成了负面影响，并证明本研究提出的攻击是可迁移的。

    Sep, 2018

  • 元学习对图神经网络的对抗攻击

    通过使用元梯度将图形视为超参数进行优化，我们研究了对节点分类的图神经网络进行训练时间攻击，发现即使对无监督嵌入也会出现性能下降，甚至会产生误导效应。

    Feb, 2019

  • 图数据的对抗攻击与防御综述

    本文综述了 100 多篇关于图数据中深度神经网络的对抗攻击和防御策略的研究，提出了一个包括大多数图对抗性学习模型的统一公式，并比较了不同的图攻击和防御，总结了评估指标、数据集和未来的趋势。

    Dec, 2018

  • 大规模图的对抗攻击

    本文提出了一种简化梯度攻击的方法，可以通过多阶段攻击框架在只需较小子图的情况下使图神经网络误分类。此外，作者还提出了度同配改变这一实用指标来衡量对图数据的对抗攻击的影响。

    Sep, 2020

  • 图数据上的对抗样本：攻击和防御的深度洞察

    本文提出了针对图数据的攻击和防御技术，其中引入了集成梯度来解决离散特征的问题，并且发现对于攻击后的图形，它的统计特征与正常图形不同，并提出一种检查图像并找到潜在的对抗扰动的方法。经过若干数据集的测试显示本文方法的有效性。

    Mar, 2019

  • 针对图神经网络的更实用的对抗性攻击

    研究黑盒攻击图神经网络中节点选择的问题，发现通过基于 PageRank 的重要度计算可提高分类误差率，提出一种基于贪心算法的修正方法能有效地解决被攻击节点数量与分类误差率之间的矛盾。

    Jun, 2020

  • 图形上的对抗攻击与防御：一项综述，一项工具和实证研究

    该研究论文介绍 Deep Neural Networks 和 Graph Neural Networks 对抗攻击的脆弱性，提出了相关攻击和防御的借鉴，以及一个算法库用于研究对抗攻击和防御。

    Mar, 2020

  • 同时扰乱一切：实现可微分的图攻击

    通过对图结构进行连续松弛和参数化，我们提出了一种名为 Differentiable Graph Attack（DGA）的新型攻击方法，以高效生成有效的攻击并同时消除了昂贵的重新训练的需求。与最新技术相比，DGA 在不同基准数据集上实现了几乎相等的攻击性能，训练时间减少了 6 倍，GPU 内存占用减少了 11 倍。此外，我们还对 DGA 在不同图模型之间的可转移性以及对广泛使用的防御机制的鲁棒性进行了广泛的实验分析。

    Aug, 2023

  • 基于查询的聚类攻击：在具有图相关先验知识的图上进行对抗性攻击

    本文提出了一种对节点分类的图注入攻击 (Cluster Attack--a Graph Injection Attack)，通过将虚假节点注入到原始图中，以退化图神经网络 (GNNs) 对特定受害节点的性能，同时尽可能少地影响其他节点，并将受害节点聚类。该攻击以一种实际且不易被察觉的基于查询的黑盒方式进行，具有较高的攻击成功率。

    Sep, 2021