Apr, 2024

为图神经网络生成稳健的反事实证人

PDF
TL;DR介绍了一种新的解释结构类别，称为鲁棒反事实证人，用于提供图神经网络的稳健而反事实和事实解释。研究了 GNN 基于节点分类的这类结构，并提供了高效算法来验证和生成鲁棒反事实证人。通过对基准数据集进行实验证实了解释生成过程，并展示了它们的应用。
explanation structuresrobust counterfactual witnessesgraph neural networksnode classificationbenchmark datasets
发现论文，激发创造
  • 图神经网络的鲁棒性因果解释

    提出了一种能够生成对于噪音稳健且符合人类直觉的图神经网络的可靠反事实解释的新方法，该方法明确地对相似输入图的常见决策逻辑进行建模，并从许多相似输入图的公共决策边界中产生可靠的解释。

    Jul, 2021

  • 全局对抗性解释器用于图神经网络

    本研究提出了 GCFExplainer 算法来解释图神经网络的全局可解释性，通过全局反事实推理寻找一组代表性的反事实图形，实验结果表明与现有局部反事实解释器相比，GCFExplainer 算法能够提供更重要的高层次 Model 行为见解，并以 46.9% 的弥补覆盖率和 9.5% 的弥补成本降低取得更好的结果。

    Oct, 2022

  • 基于反事实推理和事实推理的图神经网络解释的学习和评估

    本文提出了一种新的可解释 AI 方法 CF^2，结合因果推断理论的概念，通过优化问题，生成了一种两个因果视角的模型无关框架，用于产生 GNN 解释，并提供了一组基于对照和实际推理的度量方法，用于定量评估生成解释的必要性和充分性，实验证明在真实世界的数据集上，无论是否提供基本真理解释，CF^2 的生成解释都比以前的最先进方法更好。

    Feb, 2022

  • 学习算法与反事实解释生成算法之间的弱健壮兼容性

    通过引入 PAC 学习理论的概念，为弱稳健性建立了 Oracle 不等式，给出了 PAC 弱稳健逼近性的充分条件。

    May, 2024

  • 用于漏洞检测的图神经网络：一个反事实解释

    基于图神经网络的漏洞检测面临可解释性的挑战，因此提出了 CFExplorer，一种针对 GNN 漏洞检测的新颖的反事实解释器，通过最小程度的扰动来回答所谓的 “如果” 问题，从而确定检测漏洞的根本原因，并为开发者提供有价值的修复漏洞的见解。

    Apr, 2024

  • 基于图反事实方法的图神经网络公平性改进

    本研究提出了一种基于因果理论的框架，即 CAF，用于解决图学习中的公平性问题，通过选择训练数据中的反事实因素来学习公平的节点表示，以避免非现实反事实因素，并在合成和真实数据集上进行了广泛的实验验证其有效性。

    Jul, 2023

  • CF-GNNExplainer：图神经网络的反事实解释

    本研究是针对图神经网络中预测的因果性解释提出了一种使用数据扰动来对其进行真伪性检测的方法，我们使用边缘删除的方法，发现我们的方法 CF-GNNExplainer 不仅可以在预测上具有良好的准确性，还可以通过最少的边缘删除来生成因果性解释。

    Feb, 2021

  • 鲁棒的随机图生成器用于反事实解释

    本研究介绍了一种新的稳健随机图生成器 RSGG-CE，能够从学习的潜在空间产生可行的反事实例子，并通过定序生成序列考虑来量化和质化地比较 RSGG-CE 与现有方法生成反事实候选者的性能，凸显其更高的能力。

    Dec, 2023

  • 生成强健的反事实解释

    本文提出了一种名为 CROCO 的新框架，用于生成具有鲁棒性的反事实解释，并有效地管理反事实输入更改带来的挑战，针对表格数据进行评估，证明了该方法的有效性。

    Apr, 2023

  • 解释、编辑、生成：为多跳事实验证的理由敏感的反事实数据增强

    论文提出了一种理性敏感的方法来生成语言多样且标签翻转的反事实数据，同时保持逻辑关系，并通过检查和过滤模块对反事实数据进行规范化，实验结果表明该方法优于基准模型，并且能够生成语言多样的反事实数据而不破坏其逻辑关系。

    Oct, 2023