评估图神经网络的邻居解释性

Nov, 2023

Evaluating Neighbor Explainability for Graph Neural Networks

Oscar Llorente, Péter Vaderna, Sándor Laki, Roland Kotroczó, Rita Csoma...

TL;DR图神经网络（GNNs）中的可解释性是一个新兴领域，在本文中我们讨论了确定每个邻居对于 GNN 在对节点进行分类时的重要性以及如何度量该特定任务性能的问题。为了做到这一点，我们重新构造了各种已知的可解释性方法来获取邻居的重要性，并提出了四个新的度量指标。我们的结果显示，在 GNN 领域中，基于梯度的技术提供的解释几乎没有区别。此外，当使用没有自环的 GNN 时，许多可解释性技术未能识别到重要的邻居。

Abstract

explainability in graph neural networks (GNNs) is a new field growing in the last few years. In this publication we address the problem of determining how important is each neighbor for the GNN when classifying a

explainability graph neural networks neighbor importance performance measurement gradient-based techniques

发现论文，激发创造

图神经网络中的可解释性：一个实验调研

本文概述了当前流行的图神经网络（GNN）解释方法，包括新的评估指标和真实世界数据集的实验比较，并提出了未来的解释发展方向。

Mar, 2022

自解释图神经网络用于链路预测

本文提出一种自我可解释的 GNN 框架，可以同时给出精确的预测和解释，通过找到一个节点的各种 $k$ 个重要邻居，为该节点到其他节点的链接学习对特定的表示，从而得出解释。

May, 2023

GraphFramEx：面向图神经网络可解释性方法的系统评估

本文提出了第一个系统性的图神经网络的可解释性评估框架，比较了该领域中最具代表性的技术，涉及节点分类任务和欺诈检测应用案例。

Jun, 2022

图神经网络可解释性调查

本文综述了现有的图神经网络可解释性技术，提出了分类方法并分别讨论了各类的优缺点、应用场景及评估指标，以协助研究人员和从业者了解现有的可解释性方法，识别不足并促进可解释性机器学习的进一步发展。

Jun, 2023

可解释图神经网络综述：分类和评估指标

本文全面梳理了针对可解释的图神经网络的技术，并基于这些技术对它们进行了分类，给出了衡量其性能的常见指标，最后指出了未来的研究方向。

Jul, 2022

自说明图神经网络探索

本文研究自解释图神经网络的新问题，提出了新的框架以实现可解释的节点分类，通过可解释的相似性模块以找到每个未标记节点的 $K$ 近邻标记节点，并在真实世界和合成数据集上进行了广泛的实验验证。

Aug, 2021

在图神经网络中解释解释者：一项比较研究

本文通过实验研究，测试了十种解释器在八种代表性架构训练的六个仔细设计的图形和节点分类数据集上的表现，提供了 GNN 解释器选择和适用性的关键见解，分离了使它们可用的关键组件并提供了关于如何避免常见解释误区的建议，并强调了未来研究的开放性问题和方向。

Oct, 2022

图神经网络的生成式解释：方法与评估

结合图生成的角度，本文综述了用于图神经网络的解释方法，并就生成解释方法提出了统一的优化目标，包括归因和信息约束两个子目标。通过揭示现有方法的共享特性和差异，为未来的方法改进奠定了基础。实证结果对不同的解释方法在解释性能、效率和泛化能力方面的优势和局限性进行了验证。

Nov, 2023

基于概念的全局神经元分析方法解释图神经网络

本文通过研究图神经网络（GNNs）中个别神经元的行为，提出新的度量方法和全局解释方法，证明 GNN 神经元充当概念探测器，在逻辑组合的节点度和邻域属性的概念中具有良好的对齐性，将 GNNs 转换成易于理解的概念级别，提高模型的解释性和透明性，并通过实验证明了其优越性。

Aug, 2022

评估图神经网络的链接预测解释

本文提出了衡量链接预测解释质量的定量指标，通过使用这些指标对图神经网络的最先进可解释性方法进行评估，讨论了底层假设和特定于链接预测任务的技术细节对解释质量的影响。

Aug, 2023