ICMLJun, 2023

强化和防御具备马尔可夫链近似的图重构攻击

PDF
TL;DR通过以 GNN 作为马尔可夫链，并借助灵活的链逼近方法，我们首次对图再现攻击进行了全面研究，并提出了两种信息理论引导的机制：一种是通过自适应设计来提取更多的私有信息的基于链的攻击方法；另一种是在训练 GNN 时去除更多的链敏感信息的基于链的防御方法，在六个数据集和三种常见 GNN 上实现了最先进的结果。
graph neural networksprivacy riskgraph reconstruction attackinformation theorydefense mechanism
发现论文，激发创造
  • 从图神经网络中窃取链接

    本研究提出了针对图神经网络的链路窃取攻击，并介绍了三个维度的威胁模型以及八种链路窃取攻击方法。在八个真实数据集上的实验表明，攻击是有效的，并揭示了 GNN 模型输出关于训练图结构的丰富信息，证明了在黑盒条件下，一些私密数据可以被窃取。

    May, 2020

  • 基于图重构攻击的单纯神经网络隐私泄漏测量（学生摘要）

    研究了图表示是否可以通过图重建攻击来倒推生成它们的图，提出了一种通过图解码器从表示中恢复出图的方法。通过对三种不同类型（GCN，GAT 和 SNN）的图表示进行研究，发现 SNN 输出具有更好的保护隐私的能力，这表明对于更高阶的节点信息，需要构建更私密的表示来应对潜在威胁，如图重建攻击。

    Feb, 2023

  • 通过重连对图卷积网络进行攻击

    本文提出了一种针对图神经网络的对抗攻击方法，通过图重连的操作，使用强化学习生成对于目标模型影响较小的扰动，并在真实图数据集上进行实验及分析，证明该方法的有效性。

    Jun, 2019

  • 节点注入链接窃取攻击

    本文介绍了一种隐秘而有效的攻击方法，通过推断图结构数据中的私有连接，暴露了图神经网络（GNNs）中的隐私漏洞。我们研究了在归纳设置中，新节点加入图并使用 API 查询预测时，私有边缘信息的潜在泄露。我们还提出了在维持模型效用的同时保护隐私的方法。相比于目前的技术水平，我们的攻击在推断连接方面表现出卓越性能。此外，我们研究了将差分隐私（DP）机制应用于减轻我们提出的攻击带来影响的可行性，分析了隐私保护和模型效用之间的权衡。我们的工作强调了 GNNs 固有的隐私漏洞，凸显了开发强大的隐私保护机制在其应用中的重要性。

    Jul, 2023

  • 稳健图神经网络的图结构学习

    本文探讨了图神经网络在面临敌对攻击时的脆弱性，并提出了一种名为 Pro-GNN 的框架，以基于真实世界图形的内在属性来联合学习结构性图形和稳健性 GNN 模型以应对此问题。通过实验表明，Pro-GNN 在防御敌对攻击方面表现优异。

    May, 2020

  • GNNBleed：利用真实访问 GNN 模型揭示图中的私有边缘

    该论文研究了对抗者拥有黑盒图神经网络模型访问权限的情景下的边缘隐私，通过分析与节点相连的节点的输出来推断节点之间的联系，揭示了即使在具有访问控制机制的系统中，一个适应性对手仍然可以破译节点之间的私密连接，从而揭示潜在敏感关系并损害图的机密性。

    Nov, 2023

  • 图形上的对抗攻击与防御：一项综述，一项工具和实证研究

    该研究论文介绍 Deep Neural Networks 和 Graph Neural Networks 对抗攻击的脆弱性，提出了相关攻击和防御的借鉴，以及一个算法库用于研究对抗攻击和防御。

    Mar, 2020

  • 大规模图的对抗攻击

    本文提出了一种简化梯度攻击的方法，可以通过多阶段攻击框架在只需较小子图的情况下使图神经网络误分类。此外，作者还提出了度同配改变这一实用指标来衡量对图数据的对抗攻击的影响。

    Sep, 2020

  • 针对图神经网络的更实用的对抗性攻击

    研究黑盒攻击图神经网络中节点选择的问题，发现通过基于 PageRank 的重要度计算可提高分类误差率，提出一种基于贪心算法的修正方法能有效地解决被攻击节点数量与分类误差率之间的矛盾。

    Jun, 2020

  • 图神经网络的拓扑攻击与防御：优化视角

    本文提出了基于梯度的攻击方法，以解决离散图数据的难点，并基于此提出了第一个面向图神经网络的基于优化的对抗训练，可以提高不同梯度和贪心攻击方法的鲁棒性，同时不牺牲原始图的分类准确性。

    Jun, 2019