CVPRMar, 2022

OrphicX：一种因果灵感潜变量模型，用于解释图神经网络

PDF
TL;DR提出一种名为 OrphicX 的新的解释框架，用于基于学习的潜在因果因素为任何图神经网络（GNN）生成因果解释，该框架与任何 GNN 兼容，不需要访问目标 GNN 生成其预测的过程，无需先验知识，并证明了其优于其他解释方法。
发现论文，激发创造
  • 学习解释图神经网络

    L2XGNN 是一种可解释型 GNN 框架，它能够学习选择解释性亚图，并指定其需要具备的属性，如稀疏性和连通性，从而提高预测的可解释性和准确性。它可以达到与传统方法相同的分类准确性，同时使用的仅仅是提供的解释所包含的亚图。

    Sep, 2022

  • 图神经网络生成因果解释

    Gem 是一种通用方法，为各种图形学习任务上的任何 GNN 提供可解释性解释，通过因果学习任务解决了 GNN 决策的解释问题，并显示其相对于最先进的替代方案具有更好的解释准确性增加了高达 30％，并将解释过程加速了高达 110 倍。

    Apr, 2021

  • 图神经网络的忠实和一致解释

    从因果关系的角度理论分析图神经网络的预测，并提出了一种简单而有效的对齐嵌入算法来消除潜在的分布偏移对解释的影响，以优化更忠实的解释目标。

    May, 2022

  • EiX-GNN : 图神经网络的概念层特征中心性解释器

    本文提出了一种名为 EiX-GNN 的新方法，可以编码解释图神经网络的社会依赖关系，并介绍了解释者概念吸收度的概念来适应解释需要，实现了针对真实数据的定性研究和比较，并在公平性和简洁性方面取得了良好的结果。

    Jun, 2022

  • 通过混合预言学习潜在因果关系图

    研究了在存在潜在变量的数据中重构因果图模型的问题，提出通过将其还原为混合预言机来确定潜在表示和潜在因果模型，从而揭示了混合模型顺序学习和可观测和不可观测之间的双分图结构学习问题之间的联系，并提供了几个重构完整图模型的算法。

    Jun, 2021

  • 基于视图的图神经网络解释

    GVEX 提出了一种新颖的图解释范式，设计了一个两层的解释结构，包括图模式和感知解释子图，利用高质量的解释子图来对图神经网络进行解释，并通过两个算法实现了高效和可扩展的解释生成。

    Jan, 2024

  • 使用基于流的解释方法揭示 GNNs 模型的洞见

    本研究提出了一种叫做 XInsight 的解释性算法来生成图神经网络的模型解释，以便在高风险应用中（例如药物发现）识别错误并发现新知识。通过对 MUTAG 数据集和一个合成数据集进行实验，证明了 XInsight 的实用性，并且 XInsight 能够生成一组多样化的解释，这有助于发现模型中的隐藏关系并提供有价值的进一步分析指导。

    Jun, 2023

  • XGNN: 面向图神经网络模型级解释

    提出了一种名为 XGNN 的新方法，通过训练图生成器来解释 GNN 在模型级别的工作，其中将图形生成作为强化学习任务，并利用训练的 GNN 信息对图形生成器进行策略梯度方法的训练，最终可以有效地理解和验证所训练的 GNN 的结果，并在生成的图形上改进 GNN 的性能。

    Jun, 2020

  • 黑匣子分类器生成因果解释

    通过利用生成式模型和因果影响信息论度量，我们开发了一种方法，用于生成关于黑盒分类器的因果事后解释，方法可以学习低维度的数据表示。我们的方法学习全局和局部的解释，适用于任何具有类概率和梯度的分类器，并且不需要标记的属性或因果结构的知识。

    Jun, 2020

  • 图神经网络的生成式解释：方法与评估

    结合图生成的角度，本文综述了用于图神经网络的解释方法，并就生成解释方法提出了统一的优化目标，包括归因和信息约束两个子目标。通过揭示现有方法的共享特性和差异，为未来的方法改进奠定了基础。实证结果对不同的解释方法在解释性能、效率和泛化能力方面的优势和局限性进行了验证。

    Nov, 2023