本文主要介绍了第一项针对属性通用图的对抗攻击研究,特别关注利用图卷积思想的模型,在针对测试及训练阶段的攻击中生成针对节点特征和图结构的对抗扰动,并确保这些扰动在保存重要数据特征的同时,不被察觉,旨在帮助更好地理解和缓解目前深度学习模型在对抗环境下的不足。
May, 2018
本文提出了基于梯度的攻击方法,以解决离散图数据的难点,并基于此提出了第一个面向图神经网络的基于优化的对抗训练,可以提高不同梯度和贪心攻击方法的鲁棒性,同时不牺牲原始图的分类准确性。
Jun, 2019
本文研究了图卷积网络在对抗扰动下的鲁棒性,通过提出GraphDefense方法,成功提高了图卷积网络的鲁棒性,同时能够维持半监督学习的设定,具有较大的应用潜力。
Nov, 2019
该研究论文介绍 Deep Neural Networks 和 Graph Neural Networks 对抗攻击的脆弱性,提出了相关攻击和防御的借鉴,以及一个算法库用于研究对抗攻击和防御。
Mar, 2020
本文探讨了图神经网络在面临敌对攻击时的脆弱性,并提出了一种名为Pro-GNN的框架,以基于真实世界图形的内在属性来联合学习结构性图形和稳健性GNN模型以应对此问题。通过实验表明,Pro-GNN在防御敌对攻击方面表现优异。
May, 2020
本文研究了对图神经网络(GNN)进行对抗攻击(Adversarial attacks)的问题,并提出了一种名为TANDIS(Targeted Attack via Neighborhood DIStortion)的算法,它通过扭曲节点邻域来极大地破坏了预测性能。经过实验验证,TANDIS算法具有高效性和有效性。
Dec, 2021
本研究首次探讨有向图在提供网络固有结构丰富信息方面的重要性,为了增强GNN的鲁棒性和弹性,我们提出一种全新的信息传递框架作为插件层,并结合现有的防御策略,取得了优异的干净精确度和最先进的鲁棒性能,具有超强的防御转移和自适应攻击的作用。
Jun, 2023
本文介绍了对抗训练在解决图神经网络中的结构扰动方面的局限并展示了基于可学习图扩散的灵活图神经网络和针对多节点和全局约束的结构扰动攻击,进一步证明了对抗训练作为对抗性结构扰动的最先进防御手段。
我们进行了第一个敌对鲁棒性研究,针对比传统的消息传递神经网络(MPNNs)更强大的图神经网络(GNNs)。具体而言,我们使用敌对鲁棒性作为一种工具,揭示了它们在理论上可能的表达能力与实际达到的表达能力之间的显著差距,并针对GNNs计算特定子图模式的能力,这是一种已建立的表达能力度量,将敌对鲁棒性的概念扩展到了该任务上。基于此,我们开发了有效的对抗攻击子图计数,并表明更强大的GNNs甚至无法适应对图结构的轻微扰动。此外,我们还展示了这种架构在超出分布的图上也无法计算子结构。
Aug, 2023
图神经网络 (GNNs) 的脆弱性研究,通过系统性地考虑图数据模式、模型特定因素和对抗样本的传递性,揭示了对抗攻击对 GNN 的影响,从而为提高 GNN 的对抗鲁棒性提供了相关的准则和原则。
Jun, 2024