关于激活规则的 GNN 可解释性研究

Jun, 2024

关于激活规则的 GNN 可解释性研究

On GNN explanability with activation rules

Luca Veyrin-Forrer, Ataollah Kamal, Stefan Duffner, Marc Plantevit, Céline Robardet

TL;DRGNNs 利用节点表示学习构建的强大模型在与图相关的许多机器学习问题中表现出色，但其部署的主要障碍在于社会可接受性和可信度问题，我们提出了通过挖掘隐藏层的激活规则来理解 GNN 对世界的感知，以解决这一问题，并介绍了主观激活模式领域。通过信息论的基于背景知识的方法来确定激活规则的兴趣度，从而揭示了 GNN 用于分类图的特征和不同层所构建的隐藏特征，同时这些规则还可用于解释 GNN 的决策。实验结果表明在合成和真实数据集上，这些规则在解释图分类方面具有高竞争性，可提高 200% 的准确度。

Abstract

gnns are powerful models based on node representation learning that perform particularly well in many machine learning problems related to graphs. The major obstacle to the deployment of gnns is mostly a problem

gnns activation rules hidden layers interpretability graph classification

发现论文，激发创造

XGNN: 面向图神经网络模型级解释

提出了一种名为 XGNN 的新方法，通过训练图生成器来解释 GNN 在模型级别的工作，其中将图形生成作为强化学习任务，并利用训练的 GNN 信息对图形生成器进行策略梯度方法的训练，最终可以有效地理解和验证所训练的 GNN 的结果，并在生成的图形上改进 GNN 的性能。

Jun, 2020

关于标记数据和符号方法在隐藏神经元激活分析中的价值

通过解释隐藏神经元的激活来理解可解释人工智能是一个重要的挑战：准确的解释有助于回答深度学习系统内部检测输入中什么是相关的问题，揭示深度学习系统原本的黑盒特性。该论文介绍了一种新颖的与模型无关的可解释人工智能方法，通过使用约 200 万个类别的维基百科派生的概念层次结构作为背景知识，并利用 OWL 推理进行解释生成。研究结果表明，该方法在定量和定性方面与先前的方法相比，为密集层的个别神经元自动添加有意义的类别表达式作为解释，具有竞争优势。

Apr, 2024

利用结构化背景知识和演绎推理理解 CNN 隐藏神经元激活

解释性人工智能中的一个重要挑战是如何正确解释隐藏神经元的激活：准确的解释可以揭示深度学习系统在输入上检测到的相关信息，解密了深度学习系统的黑盒特性。本文提供了一种基于大规模背景知识和概念归纳的符号推理方法的研究，旨在自动推断和验证隐藏神经元激活的解释，结果表明我们可以自动将背景知识的有意义标签附加到卷积神经网络的密集层的个体神经元上。

Aug, 2023

基于概念的全局神经元分析方法解释图神经网络

本文通过研究图神经网络（GNNs）中个别神经元的行为，提出新的度量方法和全局解释方法，证明 GNN 神经元充当概念探测器，在逻辑组合的节点度和邻域属性的概念中具有良好的对齐性，将 GNNs 转换成易于理解的概念级别，提高模型的解释性和透明性，并通过实验证明了其优越性。

Aug, 2022

图神经网络可解释性调查

本文综述了现有的图神经网络可解释性技术，提出了分类方法并分别讨论了各类的优缺点、应用场景及评估指标，以协助研究人员和从业者了解现有的可解释性方法，识别不足并促进可解释性机器学习的进一步发展。

Jun, 2023

图神经网络在知识图谱推理中的逻辑表现力

本文从逻辑表达式的角度对图神经网络进行了理论分析，实验结果验证了我们提出的实体标记方法的有效性，并揭示了基于标记技巧的最先进的方法为什么很有效。

Mar, 2023

通过相关路径解释图神经网络的高阶行为

本研究展示了一种新颖的解释方法 GNN-LRP，通过高阶扩展和嵌套属性方案来提取与预测相关的输入图形的漫游集合，可为图神经网络和情感分析等提供实用洞见。