Jun, 2023

使用来源图结构特征解释基于 GNN 的 IDS 检测

PDF
TL;DRPROVEXPLAINER 提出了一种通过将 GNN 决策边界投影到可解释的特征空间来提高 GNN 安全模型透明度和可解释性的框架，使用决策树等可解释性模型复制 GNN 安全模型的决策过程，提高辅助模型的准确性和可信度，实验结果表明，该模型在程序分类任务中达到了 95% 离线度并在特定任务的恶意软件检测任务中达到了 99% 的准确率。
发现论文，激发创造
  • 基于原型的自解释图神经网络

    本研究提出了一种框架，可以学习原型图，从而同时提供准确的预测和基于原型的解释，用于自我解释的图神经网络，实验结果表明其在真实和人工数据集上都具有良好的预测和解释质量。

    Oct, 2022

  • GNNExplainer: 生成图神经网络解释

    该研究提出了 GNNExplainer 方法，能够为任何基于 GNN 的模型和任何基于图的机器学习任务提供可解释性的预测解释，该方法能够识别关键的子图结构和节点特征，并能够生成一致而简洁的解释。

    Mar, 2019

  • 使用内部代理解释图神经网络

    我们提出了一种使用代理图生成可解释子图的新方法，通过信息论设计的训练目标确保代理图符合训练数据的分布并保留基本的解释因素，从而实现更准确的图神经网络解释。

    Feb, 2024

  • ProtGNN: 自我解释图神经网络

    本文提出了一种称为 Prototype Graph Neural Network（ProtGNN）的新型网络结构，它将原型学习与图神经网络相结合，从而为 GNN 的解释提供了新的视角。在 ProtGNN 中，解释是从基于案例的推理过程中自然推导出来的，并在分类期间实际使用。通过将输入与潜在空间中学习的几个原型进行比较，ProtGNN 可以获得其预测结果。与此同时，为了更好地进行解释和提高效率，在 ProtGNN + 中增加了一种新颖的条件子图抽样模块，用于指示输入图的哪一部分与 ProtGNN 中的每个原型最相似。在广泛的数据集中评估我们的方法，并进行具体的案例研究。结果表明，ProtGNN 和 ProtGNN + 能够提供内在的可解释性，同时实现与非可解释性对应物的准确性。

    Dec, 2021

  • 图神经网络的因子化解释器

    我们展示了在传统方法无法获得满足可解释性准则的解释时，一种基于修改后的图信息瓶颈原理的因子解释模型的有效性，并进行了广泛实验证实。

    Dec, 2023

  • 图神经网络可解释性调查

    本文综述了现有的图神经网络可解释性技术，提出了分类方法并分别讨论了各类的优缺点、应用场景及评估指标，以协助研究人员和从业者了解现有的可解释性方法，识别不足并促进可解释性机器学习的进一步发展。

    Jun, 2023

  • DyExplainer：可解释的动态图神经网络

    使用 DyExplainer 方法解释动态图神经网络，通过稀疏注意机制探索结构关系和时间依赖性，并结合对比学习技术提供先验引导正则化，以实现对模型预测的解释性和预测准确性的显著提升。

    Oct, 2023

  • 自说明图神经网络探索

    本文研究自解释图神经网络的新问题，提出了新的框架以实现可解释的节点分类，通过可解释的相似性模块以找到每个未标记节点的 $K$ 近邻标记节点，并在真实世界和合成数据集上进行了广泛的实验验证。

    Aug, 2021

  • 图形神经网络解释是脆弱的

    解释性图神经网络的解释器在对抗性攻击下表现脆弱

    Jun, 2024

  • 解密图神经网络解释

    该研究论文探讨了关于图神经网络（GNNs）在决策过程中透明度不足的问题，并针对生成 GNNs 解释的方法和数据的评估，研究了三个主要领域的普遍问题：（1）合成数据生成过程，（2）评估指标，以及（3）解释的最终呈现。此外，本文进行了一项实证研究，探讨了这些问题的意外后果，并提出了缓解这些问题的建议。

    Nov, 2021