May, 2022

深度图模型的忠实解释

PDF
TL;DR本文研究了图神经网络（GNNs）的可信解释，并提供一种全新的通用方法来形式化描述 GNNs 的可信解释，包括特征归因和子图解释。作者提出的 KEC 方法从图的结构和其 k 次幂得到信息，可以最大程度地提高生成解释的准确性以及说明原始 GNN 的预测结果，同时弥补了子图解释和特征归因方法的缺陷。经过作者使用多种合成和真实数据集的分类和异常检测任务的实验证明，该方法是有效的。
发现论文，激发创造
  • 规则、自解释和领域不变的 GNN 的忠诚度的利弊

    当我们对图神经网络的预测进行解释时，准确可信的解释是至关重要的。我们发现现有的指标在可信度方面并不可替代，但它们可能对解释的重要属性具有系统性不敏感性，针对这些问题提出了解决方案。对于一类特定的图神经网络结构，追求完全准确可信的解释是没有意义的。与之不同的是，对于自解释和领域不变的模块化图神经网络结构，追求可信度并不会损害信息量，并且与非分布式泛化能力也有意想不到的联系。

    Jun, 2024

  • 信任的知识图解释与常识推理

    融合语言模型和知识图谱已经变成通识问题回答研究中的常见做法，但在这些模型中实现忠实的思维链解释仍然是一个开放问题。本研究的两个主要贡献是：(1) 提出并验证了两个定量指标 - 图一致性和图忠实度 - 用于衡量基于知识图谱的解释的忠实性。(2) 引入了一种新颖的训练方法 Consistent GNN (CGNN)，通过增加一项一致性正则化项来提高解释的忠实性。分析结果表明，知识图谱的预测往往与原始模型的预测偏离。所提出的 CGNN 方法提高了一致性和忠实度，展示了它产生更忠实解释的潜力。我们的工作强调明确评估的重要性，并为开发基于图的忠实解释结构提供了前进的方向。

    Oct, 2023

  • 自解释图神经网络的可信度如何？

    自解释深度神经网络是最近的一类模型，可以输出与模型推理相一致的直观解释，从而在表达能力和可解释性之间实现了一定的进步。自解释图神经网络通过图数据的方式实现了相同的目标。本文对几种自解释图神经网络的忠诚度进行了分析，使用了不同的忠诚度度量方式，并指出了模型本身和评估指标的一些局限性，并提出了进一步研究的可能方向。

    Aug, 2023

  • 图神经网络的忠实和一致解释

    从因果关系的角度理论分析图神经网络的预测，并提出了一种简单而有效的对齐嵌入算法来消除潜在的分布偏移对解释的影响，以优化更忠实的解释目标。

    May, 2022

  • 图神经网络的鲁棒性因果解释

    提出了一种能够生成对于噪音稳健且符合人类直觉的图神经网络的可靠反事实解释的新方法，该方法明确地对相似输入图的常见决策逻辑进行建模，并从许多相似输入图的公共决策边界中产生可靠的解释。

    Jul, 2021

  • 针对图神经网络可解释性评估的鲁棒保真度提升

    通过引入一种信息理论的解释性定义，研究了图神经网络（GNN）的可解释性挑战，发现现有的忠实度量衡不符合这一定义，提出了一种稳健的忠实度量方法，通过广泛的实证分析验证了其与标准度量方法的一致性。

    Oct, 2023

  • 图神经网络的生成式解释：方法与评估

    结合图生成的角度，本文综述了用于图神经网络的解释方法，并就生成解释方法提出了统一的优化目标，包括归因和信息约束两个子目标。通过揭示现有方法的共享特性和差异，为未来的方法改进奠定了基础。实证结果对不同的解释方法在解释性能、效率和泛化能力方面的优势和局限性进行了验证。

    Nov, 2023

  • GNNExplainer: 生成图神经网络解释

    该研究提出了 GNNExplainer 方法，能够为任何基于 GNN 的模型和任何基于图的机器学习任务提供可解释性的预测解释，该方法能够识别关键的子图结构和节点特征，并能够生成一致而简洁的解释。

    Mar, 2019

  • 自说明图神经网络探索

    本文研究自解释图神经网络的新问题，提出了新的框架以实现可解释的节点分类，通过可解释的相似性模块以找到每个未标记节点的 $K$ 近邻标记节点，并在真实世界和合成数据集上进行了广泛的实验验证。

    Aug, 2021

  • 图神经网络的因子化解释器

    我们展示了在传统方法无法获得满足可解释性准则的解释时，一种基于修改后的图信息瓶颈原理的因子解释模型的有效性，并进行了广泛实验证实。

    Dec, 2023