WWWFeb, 2022

基于反事实推理和事实推理的图神经网络解释的学习和评估

PDF
TL;DR本文提出了一种新的可解释 AI 方法 CF^2，结合因果推断理论的概念，通过优化问题，生成了一种两个因果视角的模型无关框架，用于产生 GNN 解释，并提供了一组基于对照和实际推理的度量方法，用于定量评估生成解释的必要性和充分性，实验证明在真实世界的数据集上，无论是否提供基本真理解释，CF^2 的生成解释都比以前的最先进方法更好。
structural dataweb applicationsgraph neural networksexplainable aicounterfactual reasoning
发现论文，激发创造
  • 全局对抗性解释器用于图神经网络

    本研究提出了 GCFExplainer 算法来解释图神经网络的全局可解释性，通过全局反事实推理寻找一组代表性的反事实图形，实验结果表明与现有局部反事实解释器相比，GCFExplainer 算法能够提供更重要的高层次 Model 行为见解，并以 46.9% 的弥补覆盖率和 9.5% 的弥补成本降低取得更好的结果。

    Oct, 2022

  • 用于漏洞检测的图神经网络：一个反事实解释

    基于图神经网络的漏洞检测面临可解释性的挑战，因此提出了 CFExplorer，一种针对 GNN 漏洞检测的新颖的反事实解释器，通过最小程度的扰动来回答所谓的 “如果” 问题，从而确定检测漏洞的根本原因，并为开发者提供有价值的修复漏洞的见解。

    Apr, 2024

  • CF-GNNExplainer：图神经网络的反事实解释

    本研究是针对图神经网络中预测的因果性解释提出了一种使用数据扰动来对其进行真伪性检测的方法，我们使用边缘删除的方法，发现我们的方法 CF-GNNExplainer 不仅可以在预测上具有良好的准确性，还可以通过最少的边缘删除来生成因果性解释。

    Feb, 2021

  • 图上的反事实学习：一份综述

    本综述分四个主要方向，对图形反事实学习的现有方法进行分类和全面的审查。我们提出有前途的未来研究方向，并为未来研究编制了一份资源清单。我们还提供了一份开放源代码实现、公共数据集和常用评估度量标准的列表。本文的目的是为构建图形反事实学习类别和当前资源的统一理解提供 “一站式” 服务，并将维护论文和资源的知识库，并将不断更新此资源。

    Apr, 2023

  • 通过归纳性来强化图神经网络中的反事实推理

    本研究介绍了一种称为 INDUCE 的归纳算法，旨在为节点推导科学中的 GNN 提供因果关系解释，并通过引入边缘增强来改善 counterfactual 结果，此外，归纳建模方法使 INDUCE 直接预测反事实扰动，无需特定示例的训练，从而在计算速度上实现了显著领先的方法和 GNN 的可扩展反事实分析。

    Jun, 2023

  • 图神经网络的鲁棒性因果解释

    提出了一种能够生成对于噪音稳健且符合人类直觉的图神经网络的可靠反事实解释的新方法，该方法明确地对相似输入图的常见决策逻辑进行建模，并从许多相似输入图的公共决策边界中产生可靠的解释。

    Jul, 2021

  • 图形对抗性解释概述：定义，方法和评估

    本文系统地总结了现有的基于图神经网络的反事实解释方法，提供了统一的框架和常用指标以便于比较研究优缺点，并探讨了隐私和公平方面的问题。

    Oct, 2022

  • 基于图反事实方法的图神经网络公平性改进

    本研究提出了一种基于因果理论的框架，即 CAF，用于解决图学习中的公平性问题，通过选择训练数据中的反事实因素来学习公平的节点表示，以避免非现实反事实因素，并在合成和真实数据集上进行了广泛的实验验证其有效性。

    Jul, 2023

  • 图神经网络的博弈论反事实解释

    该研究提出了一种基于半价值的非学习方法用于生成节点分类任务的对立解释，无需额外的训练，并发现计算 Banzhaf 值相对于计算 Shapley 值来说具有更低的样本复杂性，并且计算 Banzhaf 值可以实现多达四倍的速度提升，同时设计了一种用于计算 Banzhaf 值的阈值方法，并在噪声环境中显示出其在理论和实证结果上的鲁棒性，使其优于 Shapley 值。此外，阈值化的 Banzhaf 值已被证明可以提高效率而不降低解释的质量（即忠实度），适用于三个常用的图数据集。

    Feb, 2024

  • 图编辑用于反事实解释：一种统一的图神经网络方法

    通过引入图形编辑作为反事实解释，将输入数据表示为图形，寻找一条最短的图形编辑路径，以达到黑盒分类器提供的替代分类标签。

    Jan, 2024