对图神经网络在节点特征攻击下的预期鲁棒性进行界定

ICLRApr, 2024

对图神经网络在节点特征攻击下的预期鲁棒性进行界定

Bounding the Expected Robustness of Graph Neural Networks Subject to Node Feature Attacks

Yassine Abbahaddou, Sofiane Ennadir, Johannes F. Lutzeyer, Michalis Vazirgiannis, Henrik Boström

TL;DR在这项工作中，我们从理论上定义了属性图背景下的预期稳健性概念，并将其与图表示学习文献中的敌对鲁棒性概念相关联。我们的定义使我们能够得出图卷积网络和图同构网络在节点特征攻击下预期稳健性的上界，并基于这些发现将图卷积正交稳健网络（Graph Convolutional Orthonormal Robust Networks）作为对敌对攻击更稳健的变体提出，将 GNN 的预期稳健性与其权重矩阵的正交性联系起来。我们进一步引入了一种概率方法来估计预期稳健性，这使我们能够评估 GCORN 在几个真实世界数据集上的有效性。实验结果表明，GCORN 优于现有的防御方法。

Abstract

graph neural networks (GNNs) have demonstrated state-of-the-art performance in various graph representation learning tasks. Recently, studies revealed their vulnerability to adversarial attacks. In this work, we

graph neural networks adversarial attacks expected robustness graph convolutional networks graph convolutional orthonormal robust networks

发现论文，激发创造

GraphDefense: 构建强健的图卷积网络

本文研究了图卷积网络在对抗扰动下的鲁棒性，通过提出 GraphDefense 方法，成功提高了图卷积网络的鲁棒性，同时能够维持半监督学习的设定，具有较大的应用潜力。

Nov, 2019

图卷积网络的可认证鲁棒性和鲁棒训练

本文提出了第一种证明（非）稳健性的图卷积网络方法，该方法能够在考虑特定攻击模型的情况下，保证节点属性的 L0 - 范围内的扰动。最后，我们还提出了一种鲁棒的半监督训练过程，通过实验证明我们的方法证明了图神经网络的鲁棒性，对预测精度的影响最小。

Jun, 2019

图神经网络对抗性结构扰动的可靠鲁棒性认证

本研究针对图形结构数据，基于随机平滑技术，开发出可证明鲁棒性的图神经网络，证明其对于节点和图分类具有结构扰动的认证鲁棒性保证，并在多个 GNN 和多个基准数据集上进行了实证评估。

Aug, 2020

稳健图神经网络的图结构学习

本文探讨了图神经网络在面临敌对攻击时的脆弱性，并提出了一种名为 Pro-GNN 的框架，以基于真实世界图形的内在属性来联合学习结构性图形和稳健性 GNN 模型以应对此问题。通过实验表明，Pro-GNN 在防御敌对攻击方面表现优异。

May, 2020

基于图去噪的鲁棒图神经网络

这篇研究提出一种鲁棒的图神经网络实现方法，明确考虑了观察拓扑中的扰动，通过优化可学习参数和真实图形来解决非可微且受限制的优化问题，适用于各种类型的图形，并可整合关于扰动的先验信息。通过多个数值实验评估了该方法的性能。

Dec, 2023

稳健的图神经网络通过无偏聚合

通过对代表性鲁棒性图神经网络的鲁棒性分析，我们提供了一个统一的鲁棒估计视角以了解它们的鲁棒性和局限性。我们通过估计偏差的新颖分析来设计了一个鲁棒而无偏的图信号估计器，并开发了一个高效的拟牛顿迭代加权最小二乘算法来解决估计问题，在图神经网络中展开为鲁棒无偏的聚合层，并具有理论上的收敛保证。我们的综合实验证实了我们提出模型的强鲁棒性，剖析研究深入认识了其优势。

Nov, 2023

重新审视图机器学习的鲁棒性

本文提出一种更加原则性的对抗图的定义，研究表明当前的 GNN 存在 “过于健壮” 的问题，而该问题可以通过将标签结构纳入推断过程进行解决。

May, 2023

图神经网络的 PAC-Bayesian 对抗鲁棒泛化界限

在这篇论文中，我们使用 PAC-Bayesian 框架为两种流行的图神经网络，图卷积网络（GCN）和消息传递图神经网络，提供了对抗鲁棒性泛化界限的结果。我们的结果揭示出图上扩散矩阵的谱范数、权重的谱范数以及扰动因子决定了这两个模型的鲁棒性泛化界限。同时，我们的界限避免了在标准设置中指数依赖于最大节点度的问题。作为推论，我们在标准设置中为 GCN 导出了更好的 PAC-Bayesian 鲁棒性泛化界限，避免了在（Liao 等人，2020）中对最大节点度的指数依赖。

Feb, 2024

通过图幂加强图卷积网络

通过挑战经典的图形拉普拉斯算子，设计出一种可以证明在频谱域内具有鲁棒性的新卷积算子，它被纳入 GCN 体系结构中以改善其表达能力和可解释性，同时通过将原始图形扩展到一系列图形，提出了一种鲁棒的训练范式，以鼓励跨越具有一系列空间和频谱特征的图形的可转移性，这些方法在广泛的实验中得到证明，可以同时提高在良性和对抗性情况下的性能。

May, 2019

图神经网络的表达能力与对抗鲁棒性的视角

我们进行了第一个敌对鲁棒性研究，针对比传统的消息传递神经网络（MPNNs）更强大的图神经网络（GNNs）。具体而言，我们使用敌对鲁棒性作为一种工具，揭示了它们在理论上可能的表达能力与实际达到的表达能力之间的显著差距，并针对 GNNs 计算特定子图模式的能力，这是一种已建立的表达能力度量，将敌对鲁棒性的概念扩展到了该任务上。基于此，我们开发了有效的对抗攻击子图计数，并表明更强大的 GNNs 甚至无法适应对图结构的轻微扰动。此外，我们还展示了这种架构在超出分布的图上也无法计算子结构。

Aug, 2023