May, 2021

Zorro: 图神经网络中有效、稀疏且稳定的解释

PDF
TL;DR本文针对图神经网络的解释方法提出了一些基本原则，并提出了一种基于率失真理论的优化方法 Zorro 来优化解释的质量，实验表明该方法相对于现有方法在稀疏性、稳定性和准确性方面均有所提高。
graph neural networkexplanationinput featuresmutual informationrdt-fidelity
发现论文，激发创造
  • 图神经网络的鲁棒性因果解释

    提出了一种能够生成对于噪音稳健且符合人类直觉的图神经网络的可靠反事实解释的新方法，该方法明确地对相似输入图的常见决策逻辑进行建模，并从许多相似输入图的公共决策边界中产生可靠的解释。

    Jul, 2021

  • 图神经网络的忠实和一致解释

    从因果关系的角度理论分析图神经网络的预测，并提出了一种简单而有效的对齐嵌入算法来消除潜在的分布偏移对解释的影响，以优化更忠实的解释目标。

    May, 2022

  • 针对图神经网络可解释性评估的鲁棒保真度提升

    通过引入一种信息理论的解释性定义，研究了图神经网络（GNN）的可解释性挑战，发现现有的忠实度量衡不符合这一定义，提出了一种稳健的忠实度量方法，通过广泛的实证分析验证了其与标准度量方法的一致性。

    Oct, 2023

  • 验证关系解释：一种概率方法

    通过生成对称近似的对抗性样本，我们开发了一种方法来评估 GNNExplainer 生成的解释中的不确定性，通过学习一个因子图模型来量化解释的不确定性，我们的结果表明我们的方法可以可靠地估计解释中指定关系的不确定性。

    Jan, 2024

  • 图形神经网络解释是脆弱的

    解释性图神经网络的解释器在对抗性攻击下表现脆弱

    Jun, 2024

  • 对比图神经网络解释

    本文提出了一种基于 Distribution Compliant Explanation（DCE）的 Contrastive GNN Explanation（CoGE）技术，该技术适用于 Graph Neural Networks，并且可以提供更精确的模型解释。

    Oct, 2020

  • GraphFramEx：面向图神经网络可解释性方法的系统评估

    本文提出了第一个系统性的图神经网络的可解释性评估框架，比较了该领域中最具代表性的技术，涉及节点分类任务和欺诈检测应用案例。

    Jun, 2022

  • 可解释的图神经网络挑战

    图神经网络 (GNN) 的预测通常缺乏可解释性，因为其复杂的计算行为和图的抽象特性，为解决这一问题，出现了许多 GNN 解释方法，它们的目标是解释模型的预测结果，从而在 GNN 模型在决策关键应用中部署时获得信任，但是，大多数 GNN 解释方法都是事后提供解释，以一小部分重要的边缘和 / 或节点的形式，本文表明这些解释不能被信任，因为常见的 GNN 解释方法对对抗扰动非常敏感，这对 GNN 解释方法的可信度和实际效用提出了疑问，我们提出了一种新的攻击方法，称为 GXAttack，这是第一个针对事后 GNN 解释的基于优化的对抗攻击方法，由于我们攻击的毁灭性有效性，我们呼吁对未来的 GNN 解释器进行对抗性评估，以证明它们的鲁棒性。

    Jun, 2024

  • RegExplainer: 生成回归任务图神经网络解释

    本文提出了一种基于信息瓶颈理论的目标函数和混合框架来解释解释图回归模型（XAIG-R）的方法，并引入了对比学习策略来解决连续有序标签的问题，实验证明该方法在解释图神经网络模型中的回归任务方面具有有效性。

    Jul, 2023

  • 基于关注度感知的图学习探究多跳事实验证的可信理由

    利用图卷积网络和注意力因素，将可解释的多跳事实验证问题转化为子图提取，实现证据的拓扑交互，构建多任务模型区分警示性因素，对通过 FEVEROUS 基准测试得到的实验结果验证上述方法优于先前最先进算法的功效。

    Dec, 2022