RegExplainer: 生成回归任务图神经网络解释

Jul, 2023

RegExplainer: 生成回归任务图神经网络解释

RegExplainer: Generating Explanations for Graph Neural Networks in Regression Task

Jiaxing Zhang, Zhuomin Chen, Hao Mei, Dongsheng Luo, Hua Wei

TL;DR本文提出了一种基于信息瓶颈理论的目标函数和混合框架来解释解释图回归模型（XAIG-R）的方法，并引入了对比学习策略来解决连续有序标签的问题，实验证明该方法在解释图神经网络模型中的回归任务方面具有有效性。

Abstract

graph regression is a fundamental task and has received increasing attention in a wide range of graph learning tasks. However, the inference process is often not interpretable. Most existing explanation techniques are limited to understanding GNN behaviors in classification tasks. In t

graph regression interpretable explanation information bottleneck theory mix-up framework contrastive learning

发现论文，激发创造

XGNN: 面向图神经网络模型级解释

提出了一种名为 XGNN 的新方法，通过训练图生成器来解释 GNN 在模型级别的工作，其中将图形生成作为强化学习任务，并利用训练的 GNN 信息对图形生成器进行策略梯度方法的训练，最终可以有效地理解和验证所训练的 GNN 的结果，并在生成的图形上改进 GNN 的性能。

Jun, 2020

图神经网络的生成式解释：方法与评估

结合图生成的角度，本文综述了用于图神经网络的解释方法，并就生成解释方法提出了统一的优化目标，包括归因和信息约束两个子目标。通过揭示现有方法的共享特性和差异，为未来的方法改进奠定了基础。实证结果对不同的解释方法在解释性能、效率和泛化能力方面的优势和局限性进行了验证。

Nov, 2023

MixupExplainer：利用数据增强泛化图神经网络解释

针对图神经网络（GNN）通常难以解释的问题，本文提出了一种基于 Graph Information Bottleneck 的 MixupExplainer 方法，通过加入一个与标签无关的图变量来解决现有的方法存在的分布转移问题，并通过实验验证了该方法的有效性。

Jul, 2023

图神经网络的忠实和一致解释

从因果关系的角度理论分析图神经网络的预测，并提出了一种简单而有效的对齐嵌入算法来消除潜在的分布偏移对解释的影响，以优化更忠实的解释目标。

May, 2022

解密图神经网络解释

该研究论文探讨了关于图神经网络（GNNs）在决策过程中透明度不足的问题，并针对生成 GNNs 解释的方法和数据的评估，研究了三个主要领域的普遍问题：（1）合成数据生成过程，（2）评估指标，以及（3）解释的最终呈现。此外，本文进行了一项实证研究，探讨了这些问题的意外后果，并提出了缓解这些问题的建议。

Nov, 2021

图神经网络中的可解释性：一个实验调研

本文概述了当前流行的图神经网络（GNN）解释方法，包括新的评估指标和真实世界数据集的实验比较，并提出了未来的解释发展方向。

Mar, 2022

使用内部代理解释图神经网络

我们提出了一种使用代理图生成可解释子图的新方法，通过信息论设计的训练目标确保代理图符合训练数据的分布并保留基本的解释因素，从而实现更准确的图神经网络解释。

Feb, 2024

无任务图解释

本文提出了一种独立于下游模型的、在自监督下训练的 GNN 解释器（TAGE），能够解释未知下游任务的 GNN 嵌入模型，无论是多任务模型还是自监督训练模型，在多个下游任务中使用同一模型进行解释，其解释质量甚至比现有的 GNN 解释方法更好。

Feb, 2022

图神经网络可解释性调查

本文综述了现有的图神经网络可解释性技术，提出了分类方法并分别讨论了各类的优缺点、应用场景及评估指标，以协助研究人员和从业者了解现有的可解释性方法，识别不足并促进可解释性机器学习的进一步发展。

Jun, 2023

使用基于流的解释方法揭示 GNNs 模型的洞见

本研究提出了一种叫做 XInsight 的解释性算法来生成图神经网络的模型解释，以便在高风险应用中（例如药物发现）识别错误并发现新知识。通过对 MUTAG 数据集和一个合成数据集进行实验，证明了 XInsight 的实用性，并且 XInsight 能够生成一组多样化的解释，这有助于发现模型中的隐藏关系并提供有价值的进一步分析指导。

Jun, 2023