图结构数据对抗攻击

ICMLJun, 2018

Adversarial Attack on Graph Structured Data

Hanjun Dai, Hui Li, Tian Tian, Xin Huang, Lin Wang...

TL;DR本文研究了基于图结构的深度学习模型的鲁棒性问题，针对修改数据的组合结构而导致模型攻击的问题，提出了基于强化学习的攻击方法，同时引入遗传算法和梯度法等多种变形方法来进行攻击，并通过实验验证了针对图级别和节点级别分类任务的多种图神经网络模型都具有易受攻击性，同时这些攻击手段可以用来进一步诊断分类器。

Abstract

deep learning on graph structures has shown exciting results in various applications. However, few attentions have been paid to the robustness of such models, in contrast to numerous research work for image or te

deep learning graph structures adversarial attacks reinforcement learning graph neural network

发现论文，激发创造

图数据的对抗攻击与防御综述

本文综述了 100 多篇关于图数据中深度神经网络的对抗攻击和防御策略的研究，提出了一个包括大多数图对抗性学习模型的统一公式，并比较了不同的图攻击和防御，总结了评估指标、数据集和未来的趋势。

Dec, 2018

图数据神经网络的对抗攻击

本文主要介绍了第一项针对属性通用图的对抗攻击研究，特别关注利用图卷积思想的模型，在针对测试及训练阶段的攻击中生成针对节点特征和图结构的对抗扰动，并确保这些扰动在保存重要数据特征的同时，不被察觉，旨在帮助更好地理解和缓解目前深度学习模型在对抗环境下的不足。

May, 2018

图数据上的对抗样本：攻击和防御的深度洞察

本文提出了针对图数据的攻击和防御技术，其中引入了集成梯度来解决离散特征的问题，并且发现对于攻击后的图形，它的统计特征与正常图形不同，并提出一种检查图像并找到潜在的对抗扰动的方法。经过若干数据集的测试显示本文方法的有效性。

Mar, 2019

稳健图神经网络的图结构学习

本文探讨了图神经网络在面临敌对攻击时的脆弱性，并提出了一种名为 Pro-GNN 的框架，以基于真实世界图形的内在属性来联合学习结构性图形和稳健性 GNN 模型以应对此问题。通过实验表明，Pro-GNN 在防御敌对攻击方面表现优异。

May, 2020

元学习对图神经网络的对抗攻击

通过使用元梯度将图形视为超参数进行优化，我们研究了对节点分类的图神经网络进行训练时间攻击，发现即使对无监督嵌入也会出现性能下降，甚至会产生误导效应。

Feb, 2019

图形上的对抗攻击与防御：一项综述，一项工具和实证研究

该研究论文介绍 Deep Neural Networks 和 Graph Neural Networks 对抗攻击的脆弱性，提出了相关攻击和防御的借鉴，以及一个算法库用于研究对抗攻击和防御。

Mar, 2020

图神经网络的对抗性训练

本文介绍了对抗训练在解决图神经网络中的结构扰动方面的局限并展示了基于可学习图扩散的灵活图神经网络和针对多节点和全局约束的结构扰动攻击，进一步证明了对抗训练作为对抗性结构扰动的最先进防御手段。

Jun, 2023

基于图神经网络的网络入侵检测系统的问题空间结构对抗攻击

机器学习在网络入侵检测系统中被广泛应用，但其易受到对抗性攻击的影响。本文提出了特定于图神经网络的对抗性攻击的形式化，并模拟了现实场景中可行的结构攻击。同时，通过实验验证了这些模型对经典基于特征的对抗性攻击的抵抗力提升，同时也展示了它们对结构攻击的脆弱性。

Mar, 2024

基于图形方法和特定分布距离的对抗攻击检测

通过对神经网络体系结构的图形研究，引入了一种新的从图形角度检测和解释对抗攻击的方法，并利用特定的度量来预测和解释对抗攻击。研究结果表明，基于图形的方法有助于研究对抗攻击的内部工作方式。

May, 2023

图神经网络的拓扑攻击与防御：优化视角

本文提出了基于梯度的攻击方法，以解决离散图数据的难点，并基于此提出了第一个面向图神经网络的基于优化的对抗训练，可以提高不同梯度和贪心攻击方法的鲁棒性，同时不牺牲原始图的分类准确性。

Jun, 2019