Dec, 2023

节点感知的双平滑算法：对图注入攻击的认证鲁棒性

PDF
TL;DR通过节点感知的双平滑框架，我们引入了第一种可证明对抗图注入攻击的通用节点分类任务的鲁棒方法，并通过严密的理论分析建立了我们平滑方案的可证明条件。此外，我们将两个最先进的可证明鲁棒性框架扩展到节点注入攻击，并与它们进行了比较。广泛的评估证明了我们提出的证书的有效性。
deep graph learningvulnerabilitiesgraph modification attackscertified robustnessnode injection attacks
发现论文，激发创造
  • 图神经网络黑盒节点注入攻击

    本文通过建立节点注入攻击的马尔科夫决策过程模型，提出了一种基于强化学习框架 （GA2C）的节点注入方法，将注入节点结构化地插入原图中。研究结果表明，与现有最先进的方法相比，本文提出的 GA2C 方法具有更高的注入成功率和分类误差率。

    Feb, 2022

  • 对图注入攻击的集体可信韧性

    我们研究图注入攻击下 GNN 的认证鲁棒性。现有研究仅通过验证每个节点提供逐节点的证书，导致认证性能非常有限。在本文中，我们首次提出了集体证书，同时为一组目标节点提供认证。为了实现这一目标，我们将问题形式化为二次约束的线性规划问题，并进一步开发了一种定制线性化技术，使我们能够将问题松弛为线性规划，从而能够高效地求解。通过全面的实验证明，我们的集体认证方案显著改善了认证性能，同时具有最小的计算开销。例如，在 Citeseer 数据集上在 1 分钟内解决线性规划问题时，当注入节点数量占图大小的 5% 时，我们的认证比例从 0.0% 增加到 81.2%。我们的工作是实现可证明的防御更加实际的关键进展。

    Mar, 2024

  • 基于查询的聚类攻击：在具有图相关先验知识的图上进行对抗性攻击

    本文提出了一种对节点分类的图注入攻击 (Cluster Attack--a Graph Injection Attack)，通过将虚假节点注入到原始图中，以退化图神经网络 (GNNs) 对特定受害节点的性能，同时尽可能少地影响其他节点，并将受害节点聚类。该攻击以一种实际且不易被察觉的基于查询的黑盒方式进行，具有较高的攻击成功率。

    Sep, 2021

  • 基于强化学习的图神经网络节点注入标签特异性攻击

    提出了一种基于强化学习的无梯度通用对抗攻击方法，称为 G$^2$-SNIA，它可以开展黑盒回避攻击并仅注入单个恶意节点至目标节点来操纵其分类结果，优于现有最先进的基线。

    May, 2023

  • 图神经网络对抗性结构扰动的可靠鲁棒性认证

    本研究针对图形结构数据，基于随机平滑技术，开发出可证明鲁棒性的图神经网络，证明其对于节点和图分类具有结构扰动的认证鲁棒性保证，并在多个 GNN 和多个基准数据集上进行了实证评估。

    Aug, 2020

  • 图神经网络抵抗注入攻击的鲁棒性转移

    该研究致力于探索清洗图形对提高图神经网络抵御毒化攻击的潜力。提出了一种基于惩罚聚合机制的方法（PA-GNN），该方法通过使用清洗图形和其毒化对应物来训练图神经网络来惩罚干扰项，从而提高了图神经网络对于图形污染攻击的鲁棒性。

    Aug, 2019

  • 图上反对抗免疫实现可证明的稳健性

    本文提出了一种名为 AdvImmune 的算法，它通过耗费仅 5% 的边缘预算，通过优化元梯度以离散的方式解决敌对免疫问题，从而使得图表具有可证实的稳健性，实验证明该算法在两个引用网络和一个社交网络上可以显著提高稳健节点的比例。

    Jul, 2020

  • TDGIA: 图神经网络的有效注入攻击

    本文研究了图神经网络受到注入攻击威胁的拓扑漏洞，在此基础上提出了一种效果显著的注入攻击方法 ——TDGIA，通过拓扑缺陷边选择策略和平滑特征优化目标生成虚假节点特征，对防御 GNN 模型进行攻击并成功超过多种攻击基准。

    Jun, 2021

  • 重新审视图机器学习的鲁棒性

    本文提出一种更加原则性的对抗图的定义，研究表明当前的 GNN 存在 “过于健壮” 的问题，而该问题可以通过将标签结构纳入推断过程进行解决。

    May, 2023

  • 图形扰动的可验证鲁棒性

    本文提出了一种针对图神经网络和标签 / 特征传播模型的验证可证（非）鲁棒性的方法，并通过 PageRank 和马尔可夫决策过程的相关性来计算证书。我们同时研究了一种鲁棒性训练程序，以增加可证明鲁棒性节点的数量，同时保持或提高了干净的预测准确性。

    Oct, 2019