图神经网络中的对抗鲁棒性：一种哈密顿方法

Oct, 2023

图神经网络中的对抗鲁棒性：一种哈密顿方法

Adversarial Robustness in Graph Neural Networks: A Hamiltonian Approach

Kai Zhao, Qiyu Kang, Yang Song, Rui She, Sijie Wang...

TL;DR通过对来自不同神经流的图神经网络的研究，着重探讨与 BIBO 稳定性、Lyapunov 稳定性、结构稳定性和保守稳定性等各种稳定性概念的联系。通过启发于物理原理，我们主张采用保守 Hamilton 神经流构建对抗攻击具有鲁棒性的图神经网络。在多个基准数据集上，我们对不同神经流的图神经网络的对抗鲁棒性进行了经验比较，结果表明采用具有 Lyapunov 稳定性的保守 Hamilton 神经流的图神经网络大大提高了对抗扰动的鲁棒性。

Abstract

graph neural networks (GNNs) are vulnerable to adversarial perturbations, including those that affect both node features and graph topology. This paper investigates GNNs derived from diverse neural flows, concent

graph neural networks adversarial perturbations stability notions conservative hamiltonian neural flows adversarial attacks

发现论文，激发创造

稳健图神经网络的图结构学习

本文探讨了图神经网络在面临敌对攻击时的脆弱性，并提出了一种名为 Pro-GNN 的框架，以基于真实世界图形的内在属性来联合学习结构性图形和稳健性 GNN 模型以应对此问题。通过实验表明，Pro-GNN 在防御敌对攻击方面表现优异。

May, 2020

可解释的人工智能安全：探索图神经网络对对抗攻击的鲁棒性

图神经网络 (GNNs) 的脆弱性研究，通过系统性地考虑图数据模式、模型特定因素和对抗样本的传递性，揭示了对抗攻击对 GNN 的影响，从而为提高 GNN 的对抗鲁棒性提供了相关的准则和原则。

Jun, 2024

有向图神经网络是否具有对抗性鲁棒性？

本研究首次探讨有向图在提供网络固有结构丰富信息方面的重要性，为了增强 GNN 的鲁棒性和弹性，我们提出一种全新的信息传递框架作为插件层，并结合现有的防御策略，取得了优异的干净精确度和最先进的鲁棒性能，具有超强的防御转移和自适应攻击的作用。

Jun, 2023

重新审视图机器学习的鲁棒性

本文提出一种更加原则性的对抗图的定义，研究表明当前的 GNN 存在 “过于健壮” 的问题，而该问题可以通过将标签结构纳入推断过程进行解决。

May, 2023

图神经网络对抗性结构扰动的可靠鲁棒性认证

本研究针对图形结构数据，基于随机平滑技术，开发出可证明鲁棒性的图神经网络，证明其对于节点和图分类具有结构扰动的认证鲁棒性保证，并在多个 GNN 和多个基准数据集上进行了实证评估。

Aug, 2020

图神经网络的表达能力与对抗鲁棒性的视角

我们进行了第一个敌对鲁棒性研究，针对比传统的消息传递神经网络（MPNNs）更强大的图神经网络（GNNs）。具体而言，我们使用敌对鲁棒性作为一种工具，揭示了它们在理论上可能的表达能力与实际达到的表达能力之间的显著差距，并针对 GNNs 计算特定子图模式的能力，这是一种已建立的表达能力度量，将敌对鲁棒性的概念扩展到了该任务上。基于此，我们开发了有效的对抗攻击子图计数，并表明更强大的 GNNs 甚至无法适应对图结构的轻微扰动。此外，我们还展示了这种架构在超出分布的图上也无法计算子结构。

Aug, 2023

稳健的图神经网络通过无偏聚合

通过对代表性鲁棒性图神经网络的鲁棒性分析，我们提供了一个统一的鲁棒估计视角以了解它们的鲁棒性和局限性。我们通过估计偏差的新颖分析来设计了一个鲁棒而无偏的图信号估计器，并开发了一个高效的拟牛顿迭代加权最小二乘算法来解决估计问题，在图神经网络中展开为鲁棒无偏的聚合层，并具有理论上的收敛保证。我们的综合实验证实了我们提出模型的强鲁棒性，剖析研究深入认识了其优势。

Nov, 2023

基于图去噪的鲁棒图神经网络

这篇研究提出一种鲁棒的图神经网络实现方法，明确考虑了观察拓扑中的扰动，通过优化可学习参数和真实图形来解决非可微且受限制的优化问题，适用于各种类型的图形，并可整合关于扰动的先验信息。通过多个数值实验评估了该方法的性能。

Dec, 2023

图神经网络的稳定性属性

研究了拓扑结构变化对图神经网络输出的影响，证明了使用积分 Lipschitz 过滤器的图卷积与相应非线性混合效应的组合可以实现稳定性和高频信息的判别力，解释了 GNNs 卓越性能的原因。

May, 2019

压缩系统提升图神经网络对抗攻击能力

这篇研究论文通过提出了一种新颖的方法来增强图神经网络对于恶意扰动的鲁棒性，该方法基于具有收缩性质的微分方程的图神经层，同时学习节点特征和邻接矩阵的进化，从而在输入特征和图的连通性的扰动方面增强模型的鲁棒性，并通过多个真实世界基准测试验证了我们方法的有效性和性能优化。

Nov, 2023