Sep, 2023

关于后处理 GNN 解释器对标签噪音的鲁棒性

PDF
TL;DR基于对标签噪声的变化，对不同类型的 GNN 解释器的效力进行系统的实证调查，发现 GNN 解释器容易受到标签扰动的影响，即使是轻微的标签噪声也会明显影响解释的质量，同时研究了随着噪声水平增加解释效果的逐渐恢复过程。
gnn explainerslabel noiseexplanation effectivenessrobustnesslabel perturbations
发现论文，激发创造
  • 可解释的图神经网络挑战

    图神经网络 (GNN) 的预测通常缺乏可解释性，因为其复杂的计算行为和图的抽象特性，为解决这一问题，出现了许多 GNN 解释方法，它们的目标是解释模型的预测结果，从而在 GNN 模型在决策关键应用中部署时获得信任，但是，大多数 GNN 解释方法都是事后提供解释，以一小部分重要的边缘和 / 或节点的形式，本文表明这些解释不能被信任，因为常见的 GNN 解释方法对对抗扰动非常敏感，这对 GNN 解释方法的可信度和实际效用提出了疑问，我们提出了一种新的攻击方法，称为 GXAttack，这是第一个针对事后 GNN 解释的基于优化的对抗攻击方法，由于我们攻击的毁灭性有效性，我们呼吁对未来的 GNN 解释器进行对抗性评估，以证明它们的鲁棒性。

    Jun, 2024

  • 通过对抗训练获得可靠的图神经网络解释

    本文探讨如何通过对图神经网络的敌对训练来提高模型的可解释性，通过一种新的度量标准来评估解释方法对模型学习到的表征的利用效果，并证明对于化学领域的应用，敌对训练可以更好地提取与领域相关的见解。

    Jun, 2021

  • 自解释图神经网络用于链路预测

    本文提出一种自我可解释的 GNN 框架，可以同时给出精确的预测和解释，通过找到一个节点的各种 $k$ 个重要邻居，为该节点到其他节点的链接学习对特定的表示，从而得出解释。

    May, 2023

  • 自说明图神经网络探索

    本文研究自解释图神经网络的新问题，提出了新的框架以实现可解释的节点分类，通过可解释的相似性模块以找到每个未标记节点的 $K$ 近邻标记节点，并在真实世界和合成数据集上进行了广泛的实验验证。

    Aug, 2021

  • GNNX-BENCH: 透过深入的基准测试揭示基于扰动的 GNN 解释器的实用性

    该论文主要研究了解释性方法对图神经网络的作用，通过对扰动解释性方法进行评估和比较，发现某些方法在噪声存在时表现出较高的效果和稳定性，同时发现当前的反事实解释方法在特定领域的拓扑约束下存在可行性问题。该研究全面了解了图神经网络领域中最先进的解释性方法，并提出了进一步改进的研究问题和实际应用的影响。

    Oct, 2023

  • 图神经网络的鲁棒性因果解释

    提出了一种能够生成对于噪音稳健且符合人类直觉的图神经网络的可靠反事实解释的新方法，该方法明确地对相似输入图的常见决策逻辑进行建模，并从许多相似输入图的公共决策边界中产生可靠的解释。

    Jul, 2021

  • 图形神经网络解释是脆弱的

    解释性图神经网络的解释器在对抗性攻击下表现脆弱

    Jun, 2024

  • 基于原型的自解释图神经网络

    本研究提出了一种框架，可以学习原型图，从而同时提供准确的预测和基于原型的解释，用于自我解释的图神经网络，实验结果表明其在真实和人工数据集上都具有良好的预测和解释质量。

    Oct, 2022

  • 在保留解释的图扰动下的 PAC 可学习性

    图形模型及图神经网络中的解释辅助学习和数据增强的研究，探讨了解释辅助学习规则和数据增强方法，以及它们在训练中的优势和限制。

    Feb, 2024

  • ProtGNN: 自我解释图神经网络

    本文提出了一种称为 Prototype Graph Neural Network（ProtGNN）的新型网络结构，它将原型学习与图神经网络相结合，从而为 GNN 的解释提供了新的视角。在 ProtGNN 中，解释是从基于案例的推理过程中自然推导出来的，并在分类期间实际使用。通过将输入与潜在空间中学习的几个原型进行比较，ProtGNN 可以获得其预测结果。与此同时，为了更好地进行解释和提高效率，在 ProtGNN + 中增加了一种新颖的条件子图抽样模块，用于指示输入图的哪一部分与 ProtGNN 中的每个原型最相似。在广泛的数据集中评估我们的方法，并进行具体的案例研究。结果表明，ProtGNN 和 ProtGNN + 能够提供内在的可解释性，同时实现与非可解释性对应物的准确性。

    Dec, 2021