Jul, 2023

MixupExplainer：利用数据增强泛化图神经网络解释

PDF
TL;DR针对图神经网络（GNN）通常难以解释的问题，本文提出了一种基于 Graph Information Bottleneck 的 MixupExplainer 方法，通过加入一个与标签无关的图变量来解决现有的方法存在的分布转移问题，并通过实验验证了该方法的有效性。
graph neural networksexplanation methodsdistribution shifting issuegraph information bottleneckmixupexplainer
发现论文，激发创造
  • 图神经网络的因子化解释器

    我们展示了在传统方法无法获得满足可解释性准则的解释时，一种基于修改后的图信息瓶颈原理的因子解释模型的有效性，并进行了广泛实验证实。

    Dec, 2023

  • 融合基于检索的因果学习与信息瓶颈的解释性图神经网络

    开发了一种新的可解释因果图神经网络框架，结合图信息瓶颈理论和基于检索的因果学习，能够半参数地检索关键子图并通过因果模块压缩解释性子图，在真实世界的多样解释场景中表现出比现有方法更高的准确率和 32.71% 更高的预测能力。

    Feb, 2024

  • RegExplainer: 生成回归任务图神经网络解释

    本文提出了一种基于信息瓶颈理论的目标函数和混合框架来解释解释图回归模型（XAIG-R）的方法，并引入了对比学习策略来解决连续有序标签的问题，实验证明该方法在解释图神经网络模型中的回归任务方面具有有效性。

    Jul, 2023

  • 无监督图级表示学习的解释

    本文提出了一种基于信息瓶颈原理的无监督子图信息瓶颈（USIB）的图解释方法，通过理论分析表明图信息建模表示的精确性与鲁棒性有助于解释性子图的可靠性。实验结果表明所提出的模型优于现有模型。

    May, 2022

  • 可解释的基于原型的图信息瓶颈

    在这项研究中，我们提出了一种新颖的解释性图神经网络框架（PGIB），将原型学习与信息瓶颈框架相结合，为模型预测提供关键子图的原型。通过广泛的实验和定性分析，证明了 PGIB 在预测性能和可解释性方面优于最先进的方法。

    Oct, 2023

  • 可解释的图神经网络挑战

    图神经网络 (GNN) 的预测通常缺乏可解释性，因为其复杂的计算行为和图的抽象特性，为解决这一问题，出现了许多 GNN 解释方法，它们的目标是解释模型的预测结果，从而在 GNN 模型在决策关键应用中部署时获得信任，但是，大多数 GNN 解释方法都是事后提供解释，以一小部分重要的边缘和 / 或节点的形式，本文表明这些解释不能被信任，因为常见的 GNN 解释方法对对抗扰动非常敏感，这对 GNN 解释方法的可信度和实际效用提出了疑问，我们提出了一种新的攻击方法，称为 GXAttack，这是第一个针对事后 GNN 解释的基于优化的对抗攻击方法，由于我们攻击的毁灭性有效性，我们呼吁对未来的 GNN 解释器进行对抗性评估，以证明它们的鲁棒性。

    Jun, 2024

  • 通过在线知识蒸馏实现解释 GNN 的多专业学习者

    SCALE 是一个快速通用的 GNN 解释框架，通过训练多个特殊学习器来解释预测，同时提供结构化的总体和实例级特征贡献。

    Oct, 2022

  • 解密图神经网络解释

    该研究论文探讨了关于图神经网络（GNNs）在决策过程中透明度不足的问题，并针对生成 GNNs 解释的方法和数据的评估，研究了三个主要领域的普遍问题：（1）合成数据生成过程，（2）评估指标，以及（3）解释的最终呈现。此外，本文进行了一项实证研究，探讨了这些问题的意外后果，并提出了缓解这些问题的建议。

    Nov, 2021

  • 图信息瓶颈

    本文介绍了一种基于信息瓶颈原理的图形数据表示学习方法 —— 图信息瓶颈，该方法通过优化平衡了图形网络结构和节点特征的表达方式的表达性和鲁棒性，设计了两种采样算法进行结构方面的正则化，并使用两个新模型：GIB-Cat 和 GIB-Bern 来实现 GIB 原则，证明了其比最先进的图形防御模型更具有鲁棒性。

    Oct, 2020

  • GNNExplainer: 生成图神经网络解释

    该研究提出了 GNNExplainer 方法，能够为任何基于 GNN 的模型和任何基于图的机器学习任务提供可解释性的预测解释，该方法能够识别关键的子图结构和节点特征，并能够生成一致而简洁的解释。

    Mar, 2019