图神经网络可解释性调查

MMJun, 2023

A Survey on Explainability of Graph Neural Networks

Jaykumar Kakkad, Jaspal Jannu, Kartik Sharma, Charu Aggarwal, Sourav Medya

TL;DR本文综述了现有的图神经网络可解释性技术，提出了分类方法并分别讨论了各类的优缺点、应用场景及评估指标，以协助研究人员和从业者了解现有的可解释性方法，识别不足并促进可解释性机器学习的进一步发展。

Abstract

graph neural networks (GNNs) are powerful graph-based deep-learning models that have gained significant attention and demonstrated remarkable performance in various domains, including natural language processing, drug discovery, and recommendation systems. However, combining feature in

graph neural networks explainability methods taxonomy evaluation metrics interpretable machine learning

发现论文，激发创造

可解释图神经网络综述：分类和评估指标

本文全面梳理了针对可解释的图神经网络的技术，并基于这些技术对它们进行了分类，给出了衡量其性能的常见指标，最后指出了未来的研究方向。

Jul, 2022

图神经网络中的可解释性：一个实验调研

本文概述了当前流行的图神经网络（GNN）解释方法，包括新的评估指标和真实世界数据集的实验比较，并提出了未来的解释发展方向。

Mar, 2022

图神经网络中的可解释性：分类调查

本文综述了当前图神经网络可解释性方法，并建立了标准化的测试集，为以后的方法发展提供了经验基础。

Dec, 2020

在图神经网络中解释解释者：一项比较研究

本文通过实验研究，测试了十种解释器在八种代表性架构训练的六个仔细设计的图形和节点分类数据集上的表现，提供了 GNN 解释器选择和适用性的关键见解，分离了使它们可用的关键组件并提供了关于如何避免常见解释误区的建议，并强调了未来研究的开放性问题和方向。

Oct, 2022

自说明图神经网络探索

本文研究自解释图神经网络的新问题，提出了新的框架以实现可解释的节点分类，通过可解释的相似性模块以找到每个未标记节点的 $K$ 近邻标记节点，并在真实世界和合成数据集上进行了广泛的实验验证。

Aug, 2021

GNNExplainer: 生成图神经网络解释

该研究提出了 GNNExplainer 方法，能够为任何基于 GNN 的模型和任何基于图的机器学习任务提供可解释性的预测解释，该方法能够识别关键的子图结构和节点特征，并能够生成一致而简洁的解释。

Mar, 2019

图神经网络的生成式解释：方法与评估

结合图生成的角度，本文综述了用于图神经网络的解释方法，并就生成解释方法提出了统一的优化目标，包括归因和信息约束两个子目标。通过揭示现有方法的共享特性和差异，为未来的方法改进奠定了基础。实证结果对不同的解释方法在解释性能、效率和泛化能力方面的优势和局限性进行了验证。

Nov, 2023

解密图神经网络解释

该研究论文探讨了关于图神经网络（GNNs）在决策过程中透明度不足的问题，并针对生成 GNNs 解释的方法和数据的评估，研究了三个主要领域的普遍问题：（1）合成数据生成过程，（2）评估指标，以及（3）解释的最终呈现。此外，本文进行了一项实证研究，探讨了这些问题的意外后果，并提出了缓解这些问题的建议。

Nov, 2021

GraphFramEx：面向图神经网络可解释性方法的系统评估

本文提出了第一个系统性的图神经网络的可解释性评估框架，比较了该领域中最具代表性的技术，涉及节点分类任务和欺诈检测应用案例。

Jun, 2022

关于可信图神经网络的综合调查：隐私、鲁棒性、公正性和可解释性

本文对图神经网络在隐私、鲁棒性、公平性和可解释性等计算方面进行了全面的调查，为不同方面的值得信任的 GNN 模型提供了发展框架和方法论。

Apr, 2022