Jun, 2024

可解释的人工智能安全：探索图神经网络对对抗攻击的鲁棒性

PDF
TL;DR图神经网络 (GNNs) 的脆弱性研究，通过系统性地考虑图数据模式、模型特定因素和对抗样本的传递性，揭示了对抗攻击对 GNN 的影响，从而为提高 GNN 的对抗鲁棒性提供了相关的准则和原则。
graph neural networksadversarial attacksadversarial robustnessgraph data patternsmodel-specific factors
发现论文，激发创造
  • 稳健图神经网络的图结构学习

    本文探讨了图神经网络在面临敌对攻击时的脆弱性，并提出了一种名为 Pro-GNN 的框架，以基于真实世界图形的内在属性来联合学习结构性图形和稳健性 GNN 模型以应对此问题。通过实验表明，Pro-GNN 在防御敌对攻击方面表现优异。

    May, 2020

  • 图神经网络的表达能力与对抗鲁棒性的视角

    我们进行了第一个敌对鲁棒性研究，针对比传统的消息传递神经网络（MPNNs）更强大的图神经网络（GNNs）。具体而言，我们使用敌对鲁棒性作为一种工具，揭示了它们在理论上可能的表达能力与实际达到的表达能力之间的显著差距，并针对 GNNs 计算特定子图模式的能力，这是一种已建立的表达能力度量，将敌对鲁棒性的概念扩展到了该任务上。基于此，我们开发了有效的对抗攻击子图计数，并表明更强大的 GNNs 甚至无法适应对图结构的轻微扰动。此外，我们还展示了这种架构在超出分布的图上也无法计算子结构。

    Aug, 2023

  • 图形神经网络解释是脆弱的

    解释性图神经网络的解释器在对抗性攻击下表现脆弱

    Jun, 2024

  • 有向图神经网络是否具有对抗性鲁棒性？

    本研究首次探讨有向图在提供网络固有结构丰富信息方面的重要性，为了增强 GNN 的鲁棒性和弹性，我们提出一种全新的信息传递框架作为插件层，并结合现有的防御策略，取得了优异的干净精确度和最先进的鲁棒性能，具有超强的防御转移和自适应攻击的作用。

    Jun, 2023

  • 图形上的对抗攻击与防御：一项综述，一项工具和实证研究

    该研究论文介绍 Deep Neural Networks 和 Graph Neural Networks 对抗攻击的脆弱性，提出了相关攻击和防御的借鉴，以及一个算法库用于研究对抗攻击和防御。

    Mar, 2020

  • 对抗网络攻击是否可被防御？

    本文提出了基于图神经网络（GNNs）的对抗攻击的防御机制，包括新的对抗训练策略和平滑防御策略。实验结果表明，这些策略能够提高 GNNs 的抵御攻击的能力，并且在不同的网络分析任务中能够有效地防御各种对抗攻击。

    Mar, 2019

  • 关于可信图神经网络的综合调查：隐私、鲁棒性、公正性和可解释性

    本文对图神经网络在隐私、鲁棒性、公平性和可解释性等计算方面进行了全面的调查，为不同方面的值得信任的 GNN 模型提供了发展框架和方法论。

    Apr, 2022

  • 通过对抗训练获得可靠的图神经网络解释

    本文探讨如何通过对图神经网络的敌对训练来提高模型的可解释性，通过一种新的度量标准来评估解释方法对模型学习到的表征的利用效果，并证明对于化学领域的应用，敌对训练可以更好地提取与领域相关的见解。

    Jun, 2021

  • 图神经网络的对抗性训练

    本文介绍了对抗训练在解决图神经网络中的结构扰动方面的局限并展示了基于可学习图扩散的灵活图神经网络和针对多节点和全局约束的结构扰动攻击，进一步证明了对抗训练作为对抗性结构扰动的最先进防御手段。

    Jun, 2023

  • 可解释的图神经网络挑战

    图神经网络 (GNN) 的预测通常缺乏可解释性，因为其复杂的计算行为和图的抽象特性，为解决这一问题，出现了许多 GNN 解释方法，它们的目标是解释模型的预测结果，从而在 GNN 模型在决策关键应用中部署时获得信任，但是，大多数 GNN 解释方法都是事后提供解释，以一小部分重要的边缘和 / 或节点的形式，本文表明这些解释不能被信任，因为常见的 GNN 解释方法对对抗扰动非常敏感，这对 GNN 解释方法的可信度和实际效用提出了疑问，我们提出了一种新的攻击方法，称为 GXAttack，这是第一个针对事后 GNN 解释的基于优化的对抗攻击方法，由于我们攻击的毁灭性有效性，我们呼吁对未来的 GNN 解释器进行对抗性评估，以证明它们的鲁棒性。

    Jun, 2024