Dec, 2023

GraphGuard：图神经网络中检测和对抗训练数据滥用

PDF
TL;DRGraphGuard 是一个无需训练数据的方法，通过使用具有电离辐射特性的数据进行成员推断，提高成员和非成员数据分布的可区分性，从而在不依赖原始数据的情况下检测并通过有针对性的遗忘来减轻图数据滥用的影响。
graph neural networksdata misuse detectionmachine learning as a servicegraphguardunlearning
发现论文，激发创造
  • GNNGuard: 防御图神经网络的对抗攻击

    GNNGuard 是一个通用的算法，可以防御基于离散图形结构的多种训练时攻击，利用图形结构和节点特征之间的关系减轻攻击的负面影响，通过将更高的权重分配给连接相似节点的边，修剪不相关节点之间的边，这种方法在不同数据集和攻击条件下表现出 15.3％的优越性。

    Jun, 2020

  • 保护图神经网络的无监督图异常检测

    本文提出了一个简单而有效的框架 G3AD，它引入了两个辅助网络和相关性约束来保护 GNN 免受不一致信息编码的影响。此外，G3AD 还引入了一个自适应缓存模块，以防止 GNN 仅重构包含异常的观察数据。大量实验证明，我们提出的 G3AD 在合成数据集和实际数据集上均能优于 17 个最先进的方法。

    Apr, 2024

  • 不可学习的图形：保护图形不受未授权利用

    本文提出一种新方法通过使用 Error-Minimizing Structural Poisoning (EMinS) 模块向图中注入干扰噪声，从而使图形变得不可探测，以解决商业图形神经网络 (GNN) 模型训练中的潜在数据隐私问题，并在 COLLAB 数据集上将准确性从 77.33% 降低到 42.47%。

    Mar, 2023

  • 基于图神经网络的高效模型窃取攻击

    该论文介绍了一种针对归纳式图神经网络的无监督模型窃取攻击的新方法，该方法基于图对比学习和谱图增强，通过从目标模型高效提取信息。在六个数据集上对该攻击进行了全面评估，结果表明该方法相较于现有的窃取攻击具有更高的效率，并在所有基准测试中优于基准测试，实现了更高的窃取模型的保真度和下游准确性，同时对目标模型发送的查询次数较少。

    May, 2024

  • 归纳图神经网络的模型窃取攻击

    本文提出了针对归纳图神经网络的模型盗窃攻击，定义了威胁模型并根据对手的背景知识和目标模型的响应提出了六种攻击方式。在六个基准数据集上的评估结果显示，该攻击方式取得了良好的性能表现。

    Dec, 2021

  • 图 MU：通过机器取消学习来修复图神经网络的鲁棒性

    通过引入图神经网络的模型修复方法 GraphMU，可以在无需完全重训练的情况下，通过精调被攻击的 GNN 以遗忘对抗样本，从而修复被攻击 GNN 的鲁棒性并恢复性能。

    Jun, 2024

  • 针对图神经网络的节点级成员资格推断攻击

    本研究针对图神经网络的隐私攻击风险展开了首个综合性的分析，提出并验证了三种攻击方法，并探究了两种防御机制的实用性。

    Feb, 2021

  • 生成图探测

    我们提出了第一个生成图检测框架，通过四种分类场景探索了一系列复杂模型的性能，证明了这些模型都能够成功检测到生成的图，并且具有一定的稳健性和普适性，从而能够有效地遏制生成图的恶意滥用与虚假传播。

    Jun, 2023

  • 解决图神经网络中本地化训练数据的影响

    通过规范化方法，适应并改善模型在局部训练数据和整个图预测过程中的表现，提高图神经网络模型对非分布式数据的适应能力和泛化性能。

    Jul, 2023

  • 图神经网络成员推断攻击

    本文研究了基于图神经网络的成员推理攻击技术，发现 GNN 中结构信息是造成泄漏的主要原因，提出了两种有效防御方法，可将攻击者的推理准确率降低 60%。

    Jan, 2021