KDDApr, 2021

GraphSVX：图神经网络的 Shapley 值解释

PDF
TL;DR本文提出了一个统一的框架和一种新的局部模型无关解释方法 GraphSVX，以解释图神经网络模型的预测结果，并给出了在实际和合成数据集上的实验结果。
graph neural networksgnn explainersgraphsvxpost hoc local model-agnostic explanationshapley values
发现论文，激发创造
  • GNNShap: 使用 Shapley Values 实现快速精确的 GNN 解释

    本研究提出了 GNNShap 方法，通过并行化抽样、批处理加速模型预测，为边提供更自然和细粒度的图解释，克服了样本数有限、速度慢等限制，并在真实数据集上取得了较好的可信度分数和更快的解释。

    Jan, 2024

  • 通过子图探索解释图神经网络

    本研究提出了一种名为 SubgraphX 的算法，采用蒙特卡洛树搜索来探索重要子图并使用 Shapley 值作为子图重要性的度量，从而以明确和直接的方式解释图神经网络 (GNNs) 的预测结果.

    Feb, 2021

  • 基于视图的图神经网络解释

    GVEX 提出了一种新颖的图解释范式，设计了一个两层的解释结构，包括图模式和感知解释子图，利用高质量的解释子图来对图神经网络进行解释，并通过两个算法实现了高效和可扩展的解释生成。

    Jan, 2024

  • 图神经网络的可解释性评估

    本文介绍了一种名称为 ShapeGGen 的数据生成器，它可以生成各种基准数据集，并配备了地面真实解释。ShapeGGen 通过生成多样的综合数据集和相关地面真实解释，允许我们模仿各种现实应用程序生成的数据。ShapeGGen 和几个真实世界的图形数据集被包括在一个开源的图解释库中，名为 GraphXAI。除了具有地面真实解释的综合和真实世界的图形数据集外，GraphXAI 还提供数据加载器，数据处理函数，可视化器，GNN 模型实现和评估指标，以评估 GNN 可解释性方法的性能。

    Aug, 2022

  • 基于 ONNX 的通用框架：使用 Shapley 值解释神经网络的 ONNXExplainer

    ONNXExplainer 是一个用 Shapley 值在 ONNX 生态系统中解释神经网络的通用框架，其自动微分和优化方法实现了一次部署、高效计算解释和更少内存消耗。通过与 SHAP 进行比较，广泛的基准测试表明，所提出的优化方法能够提高 VGG19、ResNet50、DenseNet201 和 EfficientNetB0 的解释延迟高达 500%。

    Sep, 2023

  • GNNExplainer: 生成图神经网络解释

    该研究提出了 GNNExplainer 方法，能够为任何基于 GNN 的模型和任何基于图的机器学习任务提供可解释性的预测解释，该方法能够识别关键的子图结构和节点特征，并能够生成一致而简洁的解释。

    Mar, 2019

  • 基于模式的黑盒图分类器解释方法：GRAPHSHAP

    本文介绍了一种 Shapley-based 方法 GRAPHSHAP，它可以对黑盒图分类器提供基于模体的解释；并在具有自闭症谱系障碍和对照组的真实大脑网络数据集上进行了测试，证明该方法可以有效地解释黑盒分类器所提供的分类结果。

    Feb, 2022

  • ShapG：基于 Shapley 值的新特征重要性方法

    通过提出一种名为 ShapG 的新的可解释人工智能 (XAI) 方法，该方法基于 Shapley 值来衡量特征的重要性，本文探讨了人工智能系统的解释和透明度的重要性，并通过与其他 XAI 方法的比较和广泛的实验证明 ShapG 的高效性和可应用性。

    Jun, 2024

  • 结合随机解释器和子图神经网络可提高表达能力和可解释性

    该论文介绍了如何利用有意义的子图来加强图神经网络的表达能力，并提出了一个能够同时预测图分类和辅助解释性稀疏子图的新框架，其所提供的子图能够在保持相近精度的情况下提供说明性的解释。

    Apr, 2023

  • 解密图神经网络解释

    该研究论文探讨了关于图神经网络（GNNs）在决策过程中透明度不足的问题，并针对生成 GNNs 解释的方法和数据的评估，研究了三个主要领域的普遍问题：（1）合成数据生成过程，（2）评估指标，以及（3）解释的最终呈现。此外，本文进行了一项实证研究，探讨了这些问题的意外后果，并提出了缓解这些问题的建议。

    Nov, 2021