Oct, 2023

GNNX-BENCH: 透过深入的基准测试揭示基于扰动的 GNN 解释器的实用性

PDF
TL;DR该论文主要研究了解释性方法对图神经网络的作用，通过对扰动解释性方法进行评估和比较，发现某些方法在噪声存在时表现出较高的效果和稳定性，同时发现当前的反事实解释方法在特定领域的拓扑约束下存在可行性问题。该研究全面了解了图神经网络领域中最先进的解释性方法，并提出了进一步改进的研究问题和实际应用的影响。
explainability methodsgnnsperturbation-based explainability methodsefficacy and stabilitycounterfactual explainers
发现论文，激发创造
  • GraphFramEx：面向图神经网络可解释性方法的系统评估

    本文提出了第一个系统性的图神经网络的可解释性评估框架，比较了该领域中最具代表性的技术，涉及节点分类任务和欺诈检测应用案例。

    Jun, 2022

  • 图形神经网络解释是脆弱的

    解释性图神经网络的解释器在对抗性攻击下表现脆弱

    Jun, 2024

  • 图神经网络中的可解释性：一个实验调研

    本文概述了当前流行的图神经网络（GNN）解释方法，包括新的评估指标和真实世界数据集的实验比较，并提出了未来的解释发展方向。

    Mar, 2022

  • 图神经网络的鲁棒性因果解释

    提出了一种能够生成对于噪音稳健且符合人类直觉的图神经网络的可靠反事实解释的新方法，该方法明确地对相似输入图的常见决策逻辑进行建模，并从许多相似输入图的公共决策边界中产生可靠的解释。

    Jul, 2021

  • 在图神经网络中解释解释者：一项比较研究

    本文通过实验研究，测试了十种解释器在八种代表性架构训练的六个仔细设计的图形和节点分类数据集上的表现，提供了 GNN 解释器选择和适用性的关键见解，分离了使它们可用的关键组件并提供了关于如何避免常见解释误区的建议，并强调了未来研究的开放性问题和方向。

    Oct, 2022

  • 图神经网络可解释性调查

    本文综述了现有的图神经网络可解释性技术，提出了分类方法并分别讨论了各类的优缺点、应用场景及评估指标，以协助研究人员和从业者了解现有的可解释性方法，识别不足并促进可解释性机器学习的进一步发展。

    Jun, 2023

  • 可解释的图神经网络挑战

    图神经网络 (GNN) 的预测通常缺乏可解释性，因为其复杂的计算行为和图的抽象特性，为解决这一问题，出现了许多 GNN 解释方法，它们的目标是解释模型的预测结果，从而在 GNN 模型在决策关键应用中部署时获得信任，但是，大多数 GNN 解释方法都是事后提供解释，以一小部分重要的边缘和 / 或节点的形式，本文表明这些解释不能被信任，因为常见的 GNN 解释方法对对抗扰动非常敏感，这对 GNN 解释方法的可信度和实际效用提出了疑问，我们提出了一种新的攻击方法，称为 GXAttack，这是第一个针对事后 GNN 解释的基于优化的对抗攻击方法，由于我们攻击的毁灭性有效性，我们呼吁对未来的 GNN 解释器进行对抗性评估，以证明它们的鲁棒性。

    Jun, 2024

  • 解密图神经网络解释

    该研究论文探讨了关于图神经网络（GNNs）在决策过程中透明度不足的问题，并针对生成 GNNs 解释的方法和数据的评估，研究了三个主要领域的普遍问题：（1）合成数据生成过程，（2）评估指标，以及（3）解释的最终呈现。此外，本文进行了一项实证研究，探讨了这些问题的意外后果，并提出了缓解这些问题的建议。

    Nov, 2021

  • 可解释图神经网络综述：分类和评估指标

    本文全面梳理了针对可解释的图神经网络的技术，并基于这些技术对它们进行了分类，给出了衡量其性能的常见指标，最后指出了未来的研究方向。

    Jul, 2022

  • 关于后处理 GNN 解释器对标签噪音的鲁棒性

    基于对标签噪声的变化，对不同类型的 GNN 解释器的效力进行系统的实证调查，发现 GNN 解释器容易受到标签扰动的影响，即使是轻微的标签噪声也会明显影响解释的质量，同时研究了随着噪声水平增加解释效果的逐渐恢复过程。

    Sep, 2023