Jan, 2024

验证关系解释：一种概率方法

PDF
TL;DR通过生成对称近似的对抗性样本，我们开发了一种方法来评估 GNNExplainer 生成的解释中的不确定性，通过学习一个因子图模型来量化解释的不确定性，我们的结果表明我们的方法可以可靠地估计解释中指定关系的不确定性。
relational datainterpretable explanationsgnnexplaineruncertaintyrelation verification
发现论文，激发创造
  • 图神经网络的鲁棒性因果解释

    提出了一种能够生成对于噪音稳健且符合人类直觉的图神经网络的可靠反事实解释的新方法，该方法明确地对相似输入图的常见决策逻辑进行建模，并从许多相似输入图的公共决策边界中产生可靠的解释。

    Jul, 2021

  • RelEx: 一个与模型无关的关系模型解释器

    本文提出了一种模型无关的关系解释器 RelEx，它可以解释黑盒关系模型，包括 SRL 模型和 GNNs 等，其表现可以媲美或超过 GNN-Explainer 以及 iid 解释模型的关系扩展，只需访问黑盒的输出。

    May, 2020

  • 图神经网络的忠实和一致解释

    从因果关系的角度理论分析图神经网络的预测，并提出了一种简单而有效的对齐嵌入算法来消除潜在的分布偏移对解释的影响，以优化更忠实的解释目标。

    May, 2022

  • GraphFramEx：面向图神经网络可解释性方法的系统评估

    本文提出了第一个系统性的图神经网络的可解释性评估框架，比较了该领域中最具代表性的技术，涉及节点分类任务和欺诈检测应用案例。

    Jun, 2022

  • 全局对抗性解释器用于图神经网络

    本研究提出了 GCFExplainer 算法来解释图神经网络的全局可解释性，通过全局反事实推理寻找一组代表性的反事实图形，实验结果表明与现有局部反事实解释器相比，GCFExplainer 算法能够提供更重要的高层次 Model 行为见解，并以 46.9% 的弥补覆盖率和 9.5% 的弥补成本降低取得更好的结果。

    Oct, 2022

  • 基于反事实推理和事实推理的图神经网络解释的学习和评估

    本文提出了一种新的可解释 AI 方法 CF^2，结合因果推断理论的概念，通过优化问题，生成了一种两个因果视角的模型无关框架，用于产生 GNN 解释，并提供了一组基于对照和实际推理的度量方法，用于定量评估生成解释的必要性和充分性，实验证明在真实世界的数据集上，无论是否提供基本真理解释，CF^2 的生成解释都比以前的最先进方法更好。

    Feb, 2022

  • 基于视图的图神经网络解释

    GVEX 提出了一种新颖的图解释范式，设计了一个两层的解释结构，包括图模式和感知解释子图，利用高质量的解释子图来对图神经网络进行解释，并通过两个算法实现了高效和可扩展的解释生成。

    Jan, 2024

  • 基于图神经网络的解释自动化评估

    对于如何以易于理解的方式向终端用户解释图神经网络预测仍然是一个未解决的问题，本文基于应用趋势和实际问题经验，提出了一种自动评估 GNN 解释的方法。

    Jun, 2021

  • 图神经网络的生成式解释：方法与评估

    结合图生成的角度，本文综述了用于图神经网络的解释方法，并就生成解释方法提出了统一的优化目标，包括归因和信息约束两个子目标。通过揭示现有方法的共享特性和差异，为未来的方法改进奠定了基础。实证结果对不同的解释方法在解释性能、效率和泛化能力方面的优势和局限性进行了验证。

    Nov, 2023

  • 图神经网络的可参数化解释器

    本研究提出 PGExplainer 方法解决了图神经网络在全局理解及归纳场景下解释预测的问题。PGExplainer 使用神经网络参数化解释生成过程，支持对多个实例进行自然的解释，并提高了解释的泛化能力。实验结果在合成和实际数据集上表现出高度竞争性。

    Nov, 2020