可理解和有效的图神经加性网络

Jun, 2024

The Intelligible and Effective Graph Neural Additive Networks

Maya Bechler-Speicher, Amir Globerson, Ran Gilad-Bachrach

TL;DR该研究论文介绍了一种可解释性图神经网络模型，名为 Graph Neural Additive Network（GNAN），通过直接可视化模型，可以在特征和图层次上提供全局和局部解释，展现模型在目标变量、特征和图之间的关系，实验证明 GNAN 与黑盒图神经网络在准确性上相当，因此适用于需要透明度的关键应用。

Abstract

graph neural networks (GNNs) have emerged as the predominant approach for learning over graph-structured data. However, most GNNs operate as black-box models and require post-hoc explanations, which may not suffice in high-stakes scenarios where transparency is crucial. In this paper,

graph neural networks interpretable graph neural additive network visualizations black-box gnns

发现论文，激发创造

可解释的图神经网络用于表格数据

IGNNet 是一个解释性图神经网络，用于处理表格数据，通过表征学习的方式捕获特征交互，大规模的实证研究证明 IGNNet 与 XGBoost、Random Forests 和 TabNet 等最先进的机器学习算法在处理表格数据时表现相当，同时 IGNNet 的解释与特征的 Shapley 值一致而无需额外的计算开销。

Aug, 2023

基于概念的全局神经元分析方法解释图神经网络

本文通过研究图神经网络（GNNs）中个别神经元的行为，提出新的度量方法和全局解释方法，证明 GNN 神经元充当概念探测器，在逻辑组合的节点度和邻域属性的概念中具有良好的对齐性，将 GNNs 转换成易于理解的概念级别，提高模型的解释性和透明性，并通过实验证明了其优越性。

Aug, 2022

XGNN: 面向图神经网络模型级解释

提出了一种名为 XGNN 的新方法，通过训练图生成器来解释 GNN 在模型级别的工作，其中将图形生成作为强化学习任务，并利用训练的 GNN 信息对图形生成器进行策略梯度方法的训练，最终可以有效地理解和验证所训练的 GNN 的结果，并在生成的图形上改进 GNN 的性能。

Jun, 2020

科尔莫戈洛夫 - 阿诺德图神经网络

Graph neural network 模型 GKAN 通过使用基于样条函数的边缘激活函数，提高了准确性和解释性，在节点分类、链接预测和图分类任务上胜过了最先进的图神经网络模型。此外，GKAN 的设计本身提供了对模型决策过程的清晰见解，消除了事后解释性技术的需求。

Jun, 2024

基于原型的自解释图神经网络

本研究提出了一种框架，可以学习原型图，从而同时提供准确的预测和基于原型的解释，用于自我解释的图神经网络，实验结果表明其在真实和人工数据集上都具有良好的预测和解释质量。

Oct, 2022

图神经网络可解释性调查

本文综述了现有的图神经网络可解释性技术，提出了分类方法并分别讨论了各类的优缺点、应用场景及评估指标，以协助研究人员和从业者了解现有的可解释性方法，识别不足并促进可解释性机器学习的进一步发展。

Jun, 2023

图神经网络中的可解释性：一个实验调研

本文概述了当前流行的图神经网络（GNN）解释方法，包括新的评估指标和真实世界数据集的实验比较，并提出了未来的解释发展方向。

Mar, 2022

自说明图神经网络探索

本文研究自解释图神经网络的新问题，提出了新的框架以实现可解释的节点分类，通过可解释的相似性模块以找到每个未标记节点的 $K$ 近邻标记节点，并在真实世界和合成数据集上进行了广泛的实验验证。

Aug, 2021

ACGAN-GNNExplainer：图神经网络的辅助条件生成解释器

通过引入辅助分类器生成对抗网络（ACGAN）到图神经网络解释领域，我们提出了一种新的图神经网络解释器，名为 ACGAN-GNNExplainer。我们的方法利用生成器为原始输入图生成解释，并结合鉴别器监督生成过程，从而确保解释的准确性和可靠度。实验评估表明，与其他现有的图神经网络解释方法相比，我们的方法在合成和真实世界图数据集上表现更优秀。

Sep, 2023

一个模型无关的图神经网络用于整合局部和全局信息

我们提出了一个新的模型无关的图神经网络（MaGNet）框架，能够顺序地集成不同顺序的信息，从高阶邻居中提取知识，并通过识别有影响力的紧凑图结构来提供有意义、可解释的结果。理论上，我们通过经验 Rademacher 复杂性建立了 MaGNet 的泛化误差界，并展示了它在表示逐层邻域混合方面的能力。使用模拟数据进行了全面的数值研究，证明了 MaGNet 相对于几种最先进的替代方法的卓越性能。此外，我们将 MaGNet 应用于一个从脑活动数据中提取关键信息的实际案例研究，从而突显了它在推动科学研究方面的有效性。

Sep, 2023