ProtGNN: 自我解释图神经网络

AAAIDec, 2021

ProtGNN: Towards Self-Explaining Graph Neural Networks

Zaixi Zhang, Qi Liu, Hao Wang, Chengqiang Lu, Cheekong Lee

TL;DR本文提出了一种称为 Prototype Graph Neural Network（ProtGNN）的新型网络结构，它将原型学习与图神经网络相结合，从而为 GNN 的解释提供了新的视角。在 ProtGNN 中，解释是从基于案例的推理过程中自然推导出来的，并在分类期间实际使用。通过将输入与潜在空间中学习的几个原型进行比较，ProtGNN 可以获得其预测结果。与此同时，为了更好地进行解释和提高效率，在 ProtGNN + 中增加了一种新颖的条件子图抽样模块，用于指示输入图的哪一部分与 ProtGNN 中的每个原型最相似。在广泛的数据集中评估我们的方法，并进行具体的案例研究。结果表明，ProtGNN 和 ProtGNN + 能够提供内在的可解释性，同时实现与非可解释性对应物的准确性。

Abstract

Despite the recent progress in graph neural networks (GNNs), it remains challenging to explain the predictions made by GNNs. Existing explanation methods mainly focus on post-hoc explanations where another explanatory model is employed to provide explanations for a trained GNN. The fac

graph neural networks explanation methods prototype graph neural network interpretability case-based reasoning

发现论文，激发创造

基于原型的自解释图神经网络

本研究提出了一种框架，可以学习原型图，从而同时提供准确的预测和基于原型的解释，用于自我解释的图神经网络，实验结果表明其在真实和人工数据集上都具有良好的预测和解释质量。

Oct, 2022

自说明图神经网络探索

本文研究自解释图神经网络的新问题，提出了新的框架以实现可解释的节点分类，通过可解释的相似性模块以找到每个未标记节点的 $K$ 近邻标记节点，并在真实世界和合成数据集上进行了广泛的实验验证。

Aug, 2021

使用内部代理解释图神经网络

我们提出了一种使用代理图生成可解释子图的新方法，通过信息论设计的训练目标确保代理图符合训练数据的分布并保留基本的解释因素，从而实现更准确的图神经网络解释。

Feb, 2024

自解释图神经网络用于链路预测

本文提出一种自我可解释的 GNN 框架，可以同时给出精确的预测和解释，通过找到一个节点的各种 $k$ 个重要邻居，为该节点到其他节点的链接学习对特定的表示，从而得出解释。

May, 2023

基于原型的模型级解释：图神经网络

本研究提出一种原型图解释方法（PAGE），通过发现人类可解释的原型图来解释 GNN 模型在图分类中所学到的内容，从而提供比基于实例的解释更为简洁和全面的解释，PAGE 表现比基于模型的其他解释方法更为优秀，具有稳健性和计算效率。

Oct, 2022

可解释的图神经网络挑战

图神经网络 (GNN) 的预测通常缺乏可解释性，因为其复杂的计算行为和图的抽象特性，为解决这一问题，出现了许多 GNN 解释方法，它们的目标是解释模型的预测结果，从而在 GNN 模型在决策关键应用中部署时获得信任，但是，大多数 GNN 解释方法都是事后提供解释，以一小部分重要的边缘和 / 或节点的形式，本文表明这些解释不能被信任，因为常见的 GNN 解释方法对对抗扰动非常敏感，这对 GNN 解释方法的可信度和实际效用提出了疑问，我们提出了一种新的攻击方法，称为 GXAttack，这是第一个针对事后 GNN 解释的基于优化的对抗攻击方法，由于我们攻击的毁灭性有效性，我们呼吁对未来的 GNN 解释器进行对抗性评估，以证明它们的鲁棒性。

Jun, 2024

GNNExplainer: 生成图神经网络解释

该研究提出了 GNNExplainer 方法，能够为任何基于 GNN 的模型和任何基于图的机器学习任务提供可解释性的预测解释，该方法能够识别关键的子图结构和节点特征，并能够生成一致而简洁的解释。

Mar, 2019

图神经网络的可参数化解释器

本研究提出 PGExplainer 方法解决了图神经网络在全局理解及归纳场景下解释预测的问题。PGExplainer 使用神经网络参数化解释生成过程，支持对多个实例进行自然的解释，并提高了解释的泛化能力。实验结果在合成和实际数据集上表现出高度竞争性。

Nov, 2020

解密图神经网络解释

该研究论文探讨了关于图神经网络（GNNs）在决策过程中透明度不足的问题，并针对生成 GNNs 解释的方法和数据的评估，研究了三个主要领域的普遍问题：（1）合成数据生成过程，（2）评估指标，以及（3）解释的最终呈现。此外，本文进行了一项实证研究，探讨了这些问题的意外后果，并提出了缓解这些问题的建议。

Nov, 2021

XGNN: 面向图神经网络模型级解释

提出了一种名为 XGNN 的新方法，通过训练图生成器来解释 GNN 在模型级别的工作，其中将图形生成作为强化学习任务，并利用训练的 GNN 信息对图形生成器进行策略梯度方法的训练，最终可以有效地理解和验证所训练的 GNN 的结果，并在生成的图形上改进 GNN 的性能。

Jun, 2020