Jun, 2024

图 MU：通过机器取消学习来修复图神经网络的鲁棒性

PDF
TL;DR通过引入图神经网络的模型修复方法 GraphMU，可以在无需完全重训练的情况下，通过精调被攻击的 GNN 以遗忘对抗样本，从而修复被攻击 GNN 的鲁棒性并恢复性能。
graph neural networksadversarial attacksdefense methodsmodel repairgraphmu
发现论文，激发创造
  • 图神经网络抵抗注入攻击的鲁棒性转移

    该研究致力于探索清洗图形对提高图神经网络抵御毒化攻击的潜力。提出了一种基于惩罚聚合机制的方法（PA-GNN），该方法通过使用清洗图形和其毒化对应物来训练图神经网络来惩罚干扰项，从而提高了图神经网络对于图形污染攻击的鲁棒性。

    Aug, 2019

  • 稳健图神经网络的图结构学习

    本文探讨了图神经网络在面临敌对攻击时的脆弱性，并提出了一种名为 Pro-GNN 的框架，以基于真实世界图形的内在属性来联合学习结构性图形和稳健性 GNN 模型以应对此问题。通过实验表明，Pro-GNN 在防御敌对攻击方面表现优异。

    May, 2020

  • GraphGuard：图神经网络中检测和对抗训练数据滥用

    GraphGuard 是一个无需训练数据的方法，通过使用具有电离辐射特性的数据进行成员推断，提高成员和非成员数据分布的可区分性，从而在不依赖原始数据的情况下检测并通过有针对性的遗忘来减轻图数据滥用的影响。

    Dec, 2023

  • 不可学习的图形：保护图形不受未授权利用

    本文提出一种新方法通过使用 Error-Minimizing Structural Poisoning (EMinS) 模块向图中注入干扰噪声，从而使图形变得不可探测，以解决商业图形神经网络 (GNN) 模型训练中的潜在数据隐私问题，并在 COLLAB 数据集上将准确性从 77.33% 降低到 42.47%。

    Mar, 2023

  • 通过重连对图卷积网络进行攻击

    本文提出了一种针对图神经网络的对抗攻击方法，通过图重连的操作，使用强化学习生成对于目标模型影响较小的扰动，并在真实图数据集上进行实验及分析，证明该方法的有效性。

    Jun, 2019

  • 高效部分重新训练的图解除

    通过图属性感知数据切分和图对比子模型聚合，本文提出了一种新颖的图去学习框架 GraphRevoker，以更好地保持不可学习的 GNN 模型的模型效用。

    Mar, 2024

  • 认证图形遗忘

    本文提出了第一个已知的图形神经网络认证卸载框架，涉及节点、边缘和节点特征等三种不同类型的卸载请求，致力于在保证性能的情况下解决基准数据集中的复杂卸载问题并优于不利用图形信息的卸载方法。

    Jun, 2022

  • GNNGuard: 防御图神经网络的对抗攻击

    GNNGuard 是一个通用的算法，可以防御基于离散图形结构的多种训练时攻击，利用图形结构和节点特征之间的关系减轻攻击的负面影响，通过将更高的权重分配给连接相似节点的边，修剪不相关节点之间的边，这种方法在不同数据集和攻击条件下表现出 15.3％的优越性。

    Jun, 2020

  • 基于相互进化的有效和通用的图去学习方法

    通过互相进化的图形反学习（MEGU），我们提出了一种新的互相进化模式，同时发展了图形反学习的预测和学习能力，解决了在 AI 应用中数据隐私和模型健壮性的增长需求。

    Jan, 2024

  • 机器反学习无法消除数据投毒攻击

    我们重新审视了用于大规模深度学习的几种近似机器遗忘方法的功效。虽然现有的遗忘方法在一些评估设置下表现出了有效性，但我们实验证明它们无法消除数据污染的影响，在各种类型的污染攻击和模型中都表现出失败的情况。我们引入了基于数据污染的遗忘评估指标，结果表明需要更广泛的视角来避免对没有可证保证的深度学习机器遗忘程序产生虚假的自信。此外，我们的工作表明尽管遗忘方法在有效消除毒害数据点方面显示出一些迹象且无需重新训练，但目前这些方法还不是 “时机已到”，并且相对于重新训练而言带来的好处有限。

    Jun, 2024