Aug, 2023

图神经网络隐私调查：攻击、保护和应用

PDF
TL;DR研究论文总结了在图数据上攻击的目标信息，分类了 GNN 中的隐私保护技术，并回顾了可用于分析 / 解决 GNN 隐私问题的数据集和应用，为未来的研究提出了潜在方向，以构建更好的隐私保护 GNN。
graph neural networksprivacy-preservationattackstechniquesdatasets
发现论文，激发创造
  • 关于可信图神经网络的综合调查：隐私、鲁棒性、公正性和可解释性

    本文对图神经网络在隐私、鲁棒性、公平性和可解释性等计算方面进行了全面的调查，为不同方面的值得信任的 GNN 模型提供了发展框架和方法论。

    Apr, 2022

  • 隐私保护的图机器学习从数据到计算：综述

    在图机器学习中，数据的收集、共享和分析往往涉及多个参与方，每个参与方可能需要不同级别的数据安全和隐私保护。为此，在保护敏感信息方面，保持隐私非常重要。在大数据时代，数据实体之间的关系变得前所未有的复杂，越来越多的应用程序利用了支持网络结构和相关属性信息的先进数据结构（即图）。迄今为止，许多基于图的人工智能通过生成隐私保护图数据的方法和传输隐私保护信息（例如图模型参数）的方法来实现基于优化的计算，当在多个参与方之间共享数据是有风险或不可能时。除了讨论相关的理论方法和软件工具外，我们还讨论了当前的挑战，并突出了隐私保护图机器学习的若干未来研究机会。最后，我们构想了一个统一而综合的安全图机器学习系统。

    Jul, 2023

  • 图形上的对抗攻击与防御：一项综述，一项工具和实证研究

    该研究论文介绍 Deep Neural Networks 和 Graph Neural Networks 对抗攻击的脆弱性，提出了相关攻击和防御的借鉴，以及一个算法库用于研究对抗攻击和防御。

    Mar, 2020

  • GNNBleed：利用真实访问 GNN 模型揭示图中的私有边缘

    该论文研究了对抗者拥有黑盒图神经网络模型访问权限的情景下的边缘隐私，通过分析与节点相连的节点的输出来推断节点之间的联系，揭示了即使在具有访问控制机制的系统中，一个适应性对手仍然可以破译节点之间的私密连接，从而揭示潜在敏感关系并损害图的机密性。

    Nov, 2023

  • 现实世界中的图神经网络调查：不平衡、噪声、隐私和 OOD 挑战

    本研究系统地回顾了现有的图神经网络模型，重点关注解决实际场景中的不平衡、噪声、隐私和超出分布情景的四大挑战，同时提出了未来的研究方向和展望。

    Mar, 2024

  • 图数据的对抗攻击与防御综述

    本文综述了 100 多篇关于图数据中深度神经网络的对抗攻击和防御策略的研究，提出了一个包括大多数图对抗性学习模型的统一公式，并比较了不同的图攻击和防御，总结了评估指标、数据集和未来的趋势。

    Dec, 2018

  • 从图神经网络中窃取链接

    本研究提出了针对图神经网络的链路窃取攻击，并介绍了三个维度的威胁模型以及八种链路窃取攻击方法。在八个真实数据集上的实验表明，攻击是有效的，并揭示了 GNN 模型输出关于训练图结构的丰富信息，证明了在黑盒条件下，一些私密数据可以被窃取。

    May, 2020

  • 图神经网络的拓扑攻击与防御：优化视角

    本文提出了基于梯度的攻击方法，以解决离散图数据的难点，并基于此提出了第一个面向图神经网络的基于优化的对抗训练，可以提高不同梯度和贪心攻击方法的鲁棒性，同时不牺牲原始图的分类准确性。

    Jun, 2019

  • 针对图神经网络的节点级成员资格推断攻击

    本研究针对图神经网络的隐私攻击风险展开了首个综合性的分析，提出并验证了三种攻击方法，并探究了两种防御机制的实用性。

    Feb, 2021

  • 无线网络中基于图神经网络的隐私保护分散推断

    本文研究了使用图神经网络实现无线优化问题的去中心化控制 / 管理，提出了设计隐私保护信号和隐私保障训练算法来实现隐私保护推断，并在合成图数据上进行了广泛的模拟以验证理论分析。

    Aug, 2022