Apr, 2024

通过基于置信度的图稀疏化提高 GNN 预测的可解释性

PDF
TL;DR我们提出了一种使用增强学习进行训练的 GNN 方法，通过移除边和 / 或节点找出最具预测性的子图，同时优化图分类任务的性能，从而在与基线相竞争的性能下，依赖于更稀疏的子图，从而产生更可解释的基于 GNN 的预测结果。
发现论文，激发创造
  • 可解释性脑图稀疏化：图神经网络的更佳实践和有效设计

    本文介绍了一种新的框架，使用图神经网络 (GNNs) 中的有效设计来稀疏化脑图，以优化脑图分类任务。该新模型称作 “可解释的图稀疏化”（IGS），通过减少脑图的边数（最多 55.0%），提高了最多 5.1% 的分类性能，并提出了新的脑科学解释。

    Jun, 2023

  • 使用可微分边缘屏蔽解释自然语言处理的图神经网络

    通过学习预测哪些边可以被删除的分类器，我们提出了解释 GNN 模型预测的后续方法，并将其用作两个任务（问答和语义角色标记）的属性方法，分析信息流并证明删除大量边缘不会使模型性能下降，同时可以分析其余边缘以解释模型预测。

    Oct, 2020

  • 利用置信图神经网络进行图形不确定性量化

    本研究提出了一种基于置信度的图神经网络模型 CF-GNN，以保证模型的可靠性，所采用的置信度预测方法即为 conformal prediction，该方法可产生预测区间，该区间内包含了真值标签，该模型通过拓扑感知输出修正模型减少了预测集大小，从而实现了较高的预测精度。

    May, 2023

  • 结合随机解释器和子图神经网络可提高表达能力和可解释性

    该论文介绍了如何利用有意义的子图来加强图神经网络的表达能力，并提出了一个能够同时预测图分类和辅助解释性稀疏子图的新框架，其所提供的子图能够在保持相近精度的情况下提供说明性的解释。

    Apr, 2023

  • 图神经网络输出几乎肯定是渐近常数

    图神经网络（GNN）是用于各种图学习任务的主要架构。我们通过研究 GNN 概率分类器在从某个随机图模型中抽取的较大图上应用时的预测如何演变来呈现 GNN 表达能力的新视角。我们展示了输出收敛为常函数的现象，这个常函数上界了这些分类器能够统一表达的内容。这种收敛现象适用于包括最先进模型在内的广泛类别的 GNN，其中包括均值聚合和图转换器中的基于注意力的机制。我们的结果适用于包括（稀疏的）Erdős-Rényi 模型和随机块模型在内的广泛类别的随机图模型。我们通过实证验证了这些发现，并观察到即使在相对较小的图上，收敛现象已经显现出来。

    Mar, 2024

  • 自说明图神经网络探索

    本文研究自解释图神经网络的新问题，提出了新的框架以实现可解释的节点分类，通过可解释的相似性模块以找到每个未标记节点的 $K$ 近邻标记节点，并在真实世界和合成数据集上进行了广泛的实验验证。

    Aug, 2021

  • XGNN: 面向图神经网络模型级解释

    提出了一种名为 XGNN 的新方法，通过训练图生成器来解释 GNN 在模型级别的工作，其中将图形生成作为强化学习任务，并利用训练的 GNN 信息对图形生成器进行策略梯度方法的训练，最终可以有效地理解和验证所训练的 GNN 的结果，并在生成的图形上改进 GNN 的性能。

    Jun, 2020

  • 基于图去噪的鲁棒图神经网络

    这篇研究提出一种鲁棒的图神经网络实现方法，明确考虑了观察拓扑中的扰动，通过优化可学习参数和真实图形来解决非可微且受限制的优化问题，适用于各种类型的图形，并可整合关于扰动的先验信息。通过多个数值实验评估了该方法的性能。

    Dec, 2023

  • 图神经网络稀疏训练的全面图剪枝

    本文提出了一种基于渐进式图剪枝 (CGP) 的图神经网络 (GNN) 压缩框架，综合剪枝了图结构、节点特征和模型参数，同时引入重生过程以重新建立重要的连接，实验结果表明 CGP 策略在提高训练和推断效率的同时保证准确性超过了现有方法。

    Jul, 2022

  • GNNExplainer: 生成图神经网络解释

    该研究提出了 GNNExplainer 方法，能够为任何基于 GNN 的模型和任何基于图的机器学习任务提供可解释性的预测解释，该方法能够识别关键的子图结构和节点特征，并能够生成一致而简洁的解释。

    Mar, 2019