AAAIFeb, 2023

基于图重构攻击的单纯神经网络隐私泄漏测量（学生摘要）

PDF
TL;DR研究了图表示是否可以通过图重建攻击来倒推生成它们的图，提出了一种通过图解码器从表示中恢复出图的方法。通过对三种不同类型（GCN，GAT 和 SNN）的图表示进行研究，发现 SNN 输出具有更好的保护隐私的能力，这表明对于更高阶的节点信息，需要构建更私密的表示来应对潜在威胁，如图重建攻击。
privacy leakagegraph reconstruction attackgraph representationshigher-order interactionssimplicial neural network
发现论文，激发创造
  • 强化和防御具备马尔可夫链近似的图重构攻击

    通过以 GNN 作为马尔可夫链，并借助灵活的链逼近方法，我们首次对图再现攻击进行了全面研究，并提出了两种信息理论引导的机制：一种是通过自适应设计来提取更多的私有信息的基于链的攻击方法；另一种是在训练 GNN 时去除更多的链敏感信息的基于链的防御方法，在六个数据集和三种常见 GNN 上实现了最先进的结果。

    Jun, 2023

  • 图嵌入中隐私泄漏的量化

    本文首次通过三种推理攻击来量化图嵌入中的隐私泄漏，同时提出了对应的攻击策略，包括成员推理攻击、图重构攻击和属性推理攻击，并表明图嵌入与节点属性存在强相关性，让攻击者能够推断敏感信息。

    Oct, 2020

  • 基于单纯复合体的文本属性网络隐私保护表征学习

    研究了利用 simplicial neural networks 学习含文本属性复合单体复杂网络的表示，并对 SNN 的表示输出进行了成员推理攻击和图重构攻击，研究如何通过隐私保护的算法利用 multi-scale 关系和从局部结构到全局不变特征在文本属性网络中学习安全表示输出。

    Feb, 2023

  • 图表示的可证明隐私漏洞

    通过对余弦相似度为基础的边重建攻击（COSERA）进行理论和实证研究，本文揭示了图神经模型中结构性漏洞的存在，这些漏洞导致了敏感拓扑信息的推测，同时还探讨了通过噪声聚合机制（NAG）生成的（可证明的）私有图表示对 COSERA 攻击的弹性，以及 COSERA 在隐私和效用之间权衡的表现。

    Feb, 2024

  • 强大图表示的重建

    本研究介绍了如何利用图重构技术来解决图神经网络架构存在的理论和实践问题，从而提高其表现力并实现应用于现实世界中的性能提升。

    Oct, 2021

  • 图神经网络隐私调查：攻击、保护和应用

    研究论文总结了在图数据上攻击的目标信息，分类了 GNN 中的隐私保护技术，并回顾了可用于分析 / 解决 GNN 隐私问题的数据集和应用，为未来的研究提出了潜在方向，以构建更好的隐私保护 GNN。

    Aug, 2023

  • GNNBleed：利用真实访问 GNN 模型揭示图中的私有边缘

    该论文研究了对抗者拥有黑盒图神经网络模型访问权限的情景下的边缘隐私，通过分析与节点相连的节点的输出来推断节点之间的联系，揭示了即使在具有访问控制机制的系统中，一个适应性对手仍然可以破译节点之间的私密连接，从而揭示潜在敏感关系并损害图的机密性。

    Nov, 2023

  • 无线网络中基于图神经网络的隐私保护分散推断

    本文研究了使用图神经网络实现无线优化问题的去中心化控制 / 管理，提出了设计隐私保护信号和隐私保障训练算法来实现隐私保护推断，并在合成图数据上进行了广泛的模拟以验证理论分析。

    Aug, 2022

  • 具特征值扰动的边缘私有图神经网络

    图神经网络（GNNs）在从图结构化数据中学习表示方面发挥关键作用，并已被证明在许多应用中非常有用。本文研究了一个攻击者试图从训练的 GNN 模型中恢复私有边信息的情况。我们提出了一种新的隐私保护 GNN 训练算法 Eclipse，通过奇异值分解（SVD）以低秩格式对图进行训练，从而保持了良好的模型效用并提供了强大的隐私保护。实验证明，Eclipse 相比现有的隐私保护 GNN 训练方法在隐私效用权衡方面取得了显著的改进，并且对常见边攻击具有更好的鲁棒性。

    Mar, 2024

  • 局部隐私图神经网络

    本文研究了节点数据隐私的问题，并提出了一种基于局部差分隐私的 GNN 学习算法和一个名为 KProp 的简单图卷积层作为降噪机制，实验表明该方法在低隐私损失的同时可以保持令人满意的准确性。

    Jun, 2020