提出了一个可解释的 GNN 框架 BrainNNExplainer，用于脑网络分析，主要由两个联合学习的模块组成：为脑网络设计的骨干预测模型和突出疾病特定脑网络连接的解释生成器，广泛实验证明了 BrainNNExplainer 的独特解释性和优秀性能。

Jul, 2021

该研究提出了 GNNExplainer 方法，能够为任何基于 GNN 的模型和任何基于图的机器学习任务提供可解释性的预测解释，该方法能够识别关键的子图结构和节点特征，并能够生成一致而简洁的解释。

Mar, 2019

提出了一种名为 XGNN 的新方法，通过训练图生成器来解释 GNN 在模型级别的工作，其中将图形生成作为强化学习任务，并利用训练的 GNN 信息对图形生成器进行策略梯度方法的训练，最终可以有效地理解和验证所训练的 GNN 的结果，并在生成的图形上改进 GNN 的性能。

Jun, 2020

结合图生成的角度，本文综述了用于图神经网络的解释方法，并就生成解释方法提出了统一的优化目标，包括归因和信息约束两个子目标。通过揭示现有方法的共享特性和差异，为未来的方法改进奠定了基础。实证结果对不同的解释方法在解释性能、效率和泛化能力方面的优势和局限性进行了验证。

Nov, 2023

本研究提出了一种框架，可以学习原型图，从而同时提供准确的预测和基于原型的解释，用于自我解释的图神经网络，实验结果表明其在真实和人工数据集上都具有良好的预测和解释质量。

Oct, 2022

本文提出了一种称为 Prototype Graph Neural Network（ProtGNN）的新型网络结构，它将原型学习与图神经网络相结合，从而为 GNN 的解释提供了新的视角。在 ProtGNN 中，解释是从基于案例的推理过程中自然推导出来的，并在分类期间实际使用。通过将输入与潜在空间中学习的几个原型进行比较，ProtGNN 可以获得其预测结果。与此同时，为了更好地进行解释和提高效率，在 ProtGNN + 中增加了一种新颖的条件子图抽样模块，用于指示输入图的哪一部分与 ProtGNN 中的每个原型最相似。在广泛的数据集中评估我们的方法，并进行具体的案例研究。结果表明，ProtGNN 和 ProtGNN + 能够提供内在的可解释性，同时实现与非可解释性对应物的准确性。

Dec, 2021

该研究论文探讨了关于图神经网络（GNNs）在决策过程中透明度不足的问题，并针对生成 GNNs 解释的方法和数据的评估，研究了三个主要领域的普遍问题：（1）合成数据生成过程，（2）评估指标，以及（3）解释的最终呈现。此外，本文进行了一项实证研究，探讨了这些问题的意外后果，并提出了缓解这些问题的建议。

Nov, 2021

本文章提出了 PGM-Explainer，一种基于概率图模型（PGM）的 GNN 解释器，其能够识别关键的图形成分并生成一个 PGM 来近似解释预测，并且将解释以条件概率的形式呈现。理论分析表明，PGM-Explainer 生成的 PGM 包括目标预测的 Markov-blanket，即包括所有其统计信息。实验结果显示，PGM-Explainer 在许多基准任务中均达到比现有解释器更好的性能。

Oct, 2020

本文介绍了一个名为 MSInterpreter 的可解释的 GNN 推理范例，提出了消息传递选择方案 (MSScheme) 来选定关键路径，旨在实现自解释而非事后解释，并在图分类基准测试中证明了方法的有效性。

Jun, 2023

本研究提出 PGExplainer 方法解决了图神经网络在全局理解及归纳场景下解释预测的问题。PGExplainer 使用神经网络参数化解释生成过程，支持对多个实例进行自然的解释，并提高了解释的泛化能力。实验结果在合成和实际数据集上表现出高度竞争性。

Nov, 2020