ICMLJun, 2024

可解释图神经网络的可解释性如何？

PDF
TL;DR以图分类 benchmarks 为基础，提出了一种理论框架，通过 subgraph multilinear extension (SubMT) 来学习可解释图子图，设计了一种新的图神经网络架构（Graph Multilinear neT），在解释性和泛化性方面优于现有方法，提高了多项 benchmarks 上的表现。
interpretable graph neural networkssubgraph multilinear extensionxgnngraph classification benchmarksinterpretable subgraph
发现论文，激发创造
  • 可解释的图神经网络用于表格数据

    IGNNet 是一个解释性图神经网络，用于处理表格数据，通过表征学习的方式捕获特征交互，大规模的实证研究证明 IGNNet 与 XGBoost、Random Forests 和 TabNet 等最先进的机器学习算法在处理表格数据时表现相当，同时 IGNNet 的解释与特征的 Shapley 值一致而无需额外的计算开销。

    Aug, 2023

  • 通过子图探索解释图神经网络

    本研究提出了一种名为 SubgraphX 的算法，采用蒙特卡洛树搜索来探索重要子图并使用 Shapley 值作为子图重要性的度量，从而以明确和直接的方式解释图神经网络 (GNNs) 的预测结果.

    Feb, 2021

  • 使用内部代理解释图神经网络

    我们提出了一种使用代理图生成可解释子图的新方法，通过信息论设计的训练目标确保代理图符合训练数据的分布并保留基本的解释因素，从而实现更准确的图神经网络解释。

    Feb, 2024

  • 学习解释图神经网络

    L2XGNN 是一种可解释型 GNN 框架，它能够学习选择解释性亚图，并指定其需要具备的属性，如稀疏性和连通性，从而提高预测的可解释性和准确性。它可以达到与传统方法相同的分类准确性，同时使用的仅仅是提供的解释所包含的亚图。

    Sep, 2022

  • 可理解和有效的图神经加性网络

    该研究论文介绍了一种可解释性图神经网络模型，名为 Graph Neural Additive Network（GNAN），通过直接可视化模型，可以在特征和图层次上提供全局和局部解释，展现模型在目标变量、特征和图之间的关系，实验证明 GNAN 与黑盒图神经网络在准确性上相当，因此适用于需要透明度的关键应用。

    Jun, 2024

  • 结合随机解释器和子图神经网络可提高表达能力和可解释性

    该论文介绍了如何利用有意义的子图来加强图神经网络的表达能力，并提出了一个能够同时预测图分类和辅助解释性稀疏子图的新框架，其所提供的子图能够在保持相近精度的情况下提供说明性的解释。

    Apr, 2023

  • 一个模型无关的图神经网络用于整合局部和全局信息

    我们提出了一个新的模型无关的图神经网络（MaGNet）框架，能够顺序地集成不同顺序的信息，从高阶邻居中提取知识，并通过识别有影响力的紧凑图结构来提供有意义、可解释的结果。理论上，我们通过经验 Rademacher 复杂性建立了 MaGNet 的泛化误差界，并展示了它在表示逐层邻域混合方面的能力。使用模拟数据进行了全面的数值研究，证明了 MaGNet 相对于几种最先进的替代方法的卓越性能。此外，我们将 MaGNet 应用于一个从脑活动数据中提取关键信息的实际案例研究，从而突显了它在推动科学研究方面的有效性。

    Sep, 2023

  • 图神经网络代理模型的可解释微调

    使用图神经网络的可解释微调策略对基于网格的流体动力学建模进行研究，以提高其可预测性和解释性，并通过正则化过程识别与预测错误相关的图节点。

    Nov, 2023

  • XGNN: 面向图神经网络模型级解释

    提出了一种名为 XGNN 的新方法，通过训练图生成器来解释 GNN 在模型级别的工作，其中将图形生成作为强化学习任务，并利用训练的 GNN 信息对图形生成器进行策略梯度方法的训练，最终可以有效地理解和验证所训练的 GNN 的结果，并在生成的图形上改进 GNN 的性能。

    Jun, 2020

  • 融合基于检索的因果学习与信息瓶颈的解释性图神经网络

    开发了一种新的可解释因果图神经网络框架，结合图信息瓶颈理论和基于检索的因果学习，能够半参数地检索关键子图并通过因果模块压缩解释性子图，在真实世界的多样解释场景中表现出比现有方法更高的准确率和 32.71% 更高的预测能力。

    Feb, 2024