WSDMOct, 2022

全局对抗性解释器用于图神经网络

PDF
TL;DR本研究提出了 GCFExplainer 算法来解释图神经网络的全局可解释性，通过全局反事实推理寻找一组代表性的反事实图形，实验结果表明与现有局部反事实解释器相比，GCFExplainer 算法能够提供更重要的高层次 Model 行为见解，并以 46.9% 的弥补覆盖率和 9.5% 的弥补成本降低取得更好的结果。
graph neural networkscounterfactual reasoningglobal explainabilitygcfexplainerrecourse coverage
发现论文，激发创造
  • CF-GNNExplainer：图神经网络的反事实解释

    本研究是针对图神经网络中预测的因果性解释提出了一种使用数据扰动来对其进行真伪性检测的方法，我们使用边缘删除的方法，发现我们的方法 CF-GNNExplainer 不仅可以在预测上具有良好的准确性，还可以通过最少的边缘删除来生成因果性解释。

    Feb, 2021

  • 用于漏洞检测的图神经网络：一个反事实解释

    基于图神经网络的漏洞检测面临可解释性的挑战，因此提出了 CFExplorer，一种针对 GNN 漏洞检测的新颖的反事实解释器，通过最小程度的扰动来回答所谓的 “如果” 问题，从而确定检测漏洞的根本原因，并为开发者提供有价值的修复漏洞的见解。

    Apr, 2024

  • 基于反事实推理和事实推理的图神经网络解释的学习和评估

    本文提出了一种新的可解释 AI 方法 CF^2，结合因果推断理论的概念，通过优化问题，生成了一种两个因果视角的模型无关框架，用于产生 GNN 解释，并提供了一组基于对照和实际推理的度量方法，用于定量评估生成解释的必要性和充分性，实验证明在真实世界的数据集上，无论是否提供基本真理解释，CF^2 的生成解释都比以前的最先进方法更好。

    Feb, 2022

  • 图神经网络的鲁棒性因果解释

    提出了一种能够生成对于噪音稳健且符合人类直觉的图神经网络的可靠反事实解释的新方法，该方法明确地对相似输入图的常见决策逻辑进行建模，并从许多相似输入图的公共决策边界中产生可靠的解释。

    Jul, 2021

  • 通过归纳性来强化图神经网络中的反事实推理

    本研究介绍了一种称为 INDUCE 的归纳算法，旨在为节点推导科学中的 GNN 提供因果关系解释，并通过引入边缘增强来改善 counterfactual 结果，此外，归纳建模方法使 INDUCE 直接预测反事实扰动，无需特定示例的训练，从而在计算速度上实现了显著领先的方法和 GNN 的可扩展反事实分析。

    Jun, 2023

  • 图编辑用于反事实解释：一种统一的图神经网络方法

    通过引入图形编辑作为反事实解释，将输入数据表示为图形，寻找一条最短的图形编辑路径，以达到黑盒分类器提供的替代分类标签。

    Jan, 2024

  • GLANCE: 全球行动简述的反事实可解释性

    提供全局反事实解释问题的简洁表述并建立了比较解决方案的原则标准，使用聚类和决策树作为关键组件的创新算法解决全局反事实问题，并通过与其他方法的综合实验评估验证了算法的能力。

    May, 2024

  • 基于图反事实方法的图神经网络公平性改进

    本研究提出了一种基于因果理论的框架，即 CAF，用于解决图学习中的公平性问题，通过选择训练数据中的反事实因素来学习公平的节点表示，以避免非现实反事实因素，并在合成和真实数据集上进行了广泛的实验验证其有效性。

    Jul, 2023

  • 图形对抗性解释概述：定义，方法和评估

    本文系统地总结了现有的基于图神经网络的反事实解释方法，提供了统一的框架和常用指标以便于比较研究优缺点，并探讨了隐私和公平方面的问题。

    Oct, 2022

  • 全球基于人工引导的分子性质对策解释的增强学习

    RLHEX 是一种新颖的全局解释模型，结合了 VAE-based graph generator 和适应人类定义原则的适配器，可生成与领域专业知识相一致的反事实解释，用于分子属性预测。

    Jun, 2024