WWWFeb, 2024

图神经网络的博弈论反事实解释

PDF
TL;DR该研究提出了一种基于半价值的非学习方法用于生成节点分类任务的对立解释，无需额外的训练，并发现计算 Banzhaf 值相对于计算 Shapley 值来说具有更低的样本复杂性，并且计算 Banzhaf 值可以实现多达四倍的速度提升，同时设计了一种用于计算 Banzhaf 值的阈值方法，并在噪声环境中显示出其在理论和实证结果上的鲁棒性，使其优于 Shapley 值。此外，阈值化的 Banzhaf 值已被证明可以提高效率而不降低解释的质量（即忠实度），适用于三个常用的图数据集。
发现论文，激发创造
  • CF-GNNExplainer：图神经网络的反事实解释

    本研究是针对图神经网络中预测的因果性解释提出了一种使用数据扰动来对其进行真伪性检测的方法，我们使用边缘删除的方法，发现我们的方法 CF-GNNExplainer 不仅可以在预测上具有良好的准确性，还可以通过最少的边缘删除来生成因果性解释。

    Feb, 2021

  • 全局对抗性解释器用于图神经网络

    本研究提出了 GCFExplainer 算法来解释图神经网络的全局可解释性，通过全局反事实推理寻找一组代表性的反事实图形，实验结果表明与现有局部反事实解释器相比，GCFExplainer 算法能够提供更重要的高层次 Model 行为见解，并以 46.9% 的弥补覆盖率和 9.5% 的弥补成本降低取得更好的结果。

    Oct, 2022

  • 基于反事实推理和事实推理的图神经网络解释的学习和评估

    本文提出了一种新的可解释 AI 方法 CF^2，结合因果推断理论的概念，通过优化问题，生成了一种两个因果视角的模型无关框架，用于产生 GNN 解释，并提供了一组基于对照和实际推理的度量方法，用于定量评估生成解释的必要性和充分性，实验证明在真实世界的数据集上，无论是否提供基本真理解释，CF^2 的生成解释都比以前的最先进方法更好。

    Feb, 2022

  • 图形对抗性解释概述：定义，方法和评估

    本文系统地总结了现有的基于图神经网络的反事实解释方法，提供了统一的框架和常用指标以便于比较研究优缺点，并探讨了隐私和公平方面的问题。

    Oct, 2022

  • 基于图反事实方法的图神经网络公平性改进

    本研究提出了一种基于因果理论的框架，即 CAF，用于解决图学习中的公平性问题，通过选择训练数据中的反事实因素来学习公平的节点表示，以避免非现实反事实因素，并在合成和真实数据集上进行了广泛的实验验证其有效性。

    Jul, 2023

  • 图神经网络的鲁棒性因果解释

    提出了一种能够生成对于噪音稳健且符合人类直觉的图神经网络的可靠反事实解释的新方法，该方法明确地对相似输入图的常见决策逻辑进行建模，并从许多相似输入图的公共决策边界中产生可靠的解释。

    Jul, 2021

  • 用于漏洞检测的图神经网络：一个反事实解释

    基于图神经网络的漏洞检测面临可解释性的挑战，因此提出了 CFExplorer，一种针对 GNN 漏洞检测的新颖的反事实解释器，通过最小程度的扰动来回答所谓的 “如果” 问题，从而确定检测漏洞的根本原因，并为开发者提供有价值的修复漏洞的见解。

    Apr, 2024

  • 鲁棒的随机图生成器用于反事实解释

    本研究介绍了一种新的稳健随机图生成器 RSGG-CE，能够从学习的潜在空间产生可行的反事实例子，并通过定序生成序列考虑来量化和质化地比较 RSGG-CE 与现有方法生成反事实候选者的性能，凸显其更高的能力。

    Dec, 2023

  • 通过归纳性来强化图神经网络中的反事实推理

    本研究介绍了一种称为 INDUCE 的归纳算法，旨在为节点推导科学中的 GNN 提供因果关系解释，并通过引入边缘增强来改善 counterfactual 结果，此外，归纳建模方法使 INDUCE 直接预测反事实扰动，无需特定示例的训练，从而在计算速度上实现了显著领先的方法和 GNN 的可扩展反事实分析。

    Jun, 2023

  • 基于用户反馈的反事实解释介绍 (UFCE)

    本研究引入了一种新的方法论，名为用户反馈式反事实解释（UFCE），以解决当前反事实解释算法的局限性，并旨在提高对提供的解释的置信度。实验证明，UFCE 在接近度、稀疏度和可行性方面胜过两种著名的 CE 方法，并指出用户约束对生成可行的反事实解释具有影响。

    Feb, 2024