Feb, 2022

基于模式的黑盒图分类器解释方法：GRAPHSHAP

PDF
TL;DR本文介绍了一种 Shapley-based 方法 GRAPHSHAP，它可以对黑盒图分类器提供基于模体的解释；并在具有自闭症谱系障碍和对照组的真实大脑网络数据集上进行了测试，证明该方法可以有效地解释黑盒分类器所提供的分类结果。
graph classificationexplanation methodmotif-based explanationsshapley-based approachconnectomics patterns
发现论文，激发创造
  • GNNShap: 使用 Shapley Values 实现快速精确的 GNN 解释

    本研究提出了 GNNShap 方法，通过并行化抽样、批处理加速模型预测，为边提供更自然和细粒度的图解释，克服了样本数有限、速度慢等限制，并在真实数据集上取得了较好的可信度分数和更快的解释。

    Jan, 2024

  • 简洁的互动感知解释

    我们提出了一种将特征分割为显著相互作用的部分，并利用这些部分形成简明易解的加性解释的方法。实验证明，我们的解释比 SHAP 和 NSHAP 的解释更准确、更易理解。

    Feb, 2024

  • GraphSVX：图神经网络的 Shapley 值解释

    本文提出了一个统一的框架和一种新的局部模型无关解释方法 GraphSVX，以解释图神经网络模型的预测结果，并给出了在实际和合成数据集上的实验结果。

    Apr, 2021

  • SyntaxShap: 一种文本生成的语法感知解释性方法

    为了在安全关键领域利用大型语言模型的力量，我们需要确保其预测的可解释性。本文介绍了 SyntaxShap，一种针对文本生成的局部、模型无关的可解释性方法，考虑了文本数据中的句法结构。通过扩展 Shapley 值来考虑基于解析的句法依赖关系，SyntaxShap 只考虑受依赖树约束的联盟。我们采用基于模型的评估方法，比较 SyntaxShap 及其加权形式与适用于文本生成任务的最先进的可解释性方法，包括忠实度、复杂性、连贯性以及解释与模型的语义对齐等多个度量标准。我们表明，我们的句法感知方法能够生成更忠实、连贯和可解释的预测解释，适用于自回归模型。

    Feb, 2024

  • 通过子图探索解释图神经网络

    本研究提出了一种名为 SubgraphX 的算法，采用蒙特卡洛树搜索来探索重要子图并使用 Shapley 值作为子图重要性的度量，从而以明确和直接的方式解释图神经网络 (GNNs) 的预测结果.

    Feb, 2021

  • MAGE: 基于构图模式的模型层面图神经网络解释

    通过使用基础单元为基本图案生成解释的基于 Motif 的 GNN 解释器（MAGE），本研究解决了分子图神经网络在解释性方面所面临的挑战。通过定量和定性评估六个真实世界分子数据集，验证了该方法的有效性。

    May, 2024

  • 使用整合回归逼近基于分数的解释技术

    我们提出并研究了使用计算成本较低的回归模型来逼近诸如 SHAP 之类的基于分数解释技术的输出，通过采用归纳符合预测框架提供了对逼近值的有效性保证。我们提出了几种非一致性度量方法，旨在考虑到解释逼近的困难程度同时保持计算成本的低廉。通过大规模实证研究的结果表明，我们提出的模型生成的近似解释在效率（区间大小）方面得到了评估。结果表明，与快速版本的 SHAP TreeSHAP 相比，所提出的方法可以显著提高执行时间。结果还表明，所提出的方法可以产生紧密的区间，同时提供有效性保证。此外，所提出的方法允许比较不同逼近方法的解释，并根据预测区间的信息量（紧密程度）选择一种方法。

    Aug, 2023

  • 透过逐层邻居选择来增强稳定性的 SHAP 形态塑造

    这篇论文研究了机器学习技术中局部后解释性方法的不稳定性问题，提出了通过改进确定邻居选取的方法以解决不稳定性问题，同时通过限制邻居生成的扰动范围得到了一种全新的特征归因方法。

    Dec, 2023

  • 通过可解释的数据协作实现分布式机器学习的透明度

    为确保机器学习模型的伦理使用，该论文提出了一种基于模型不可知的可加特征归因算法（KernelSHAP）和数据协作方法的可解释数据协作框架，以应对难以解释的黑盒子模型。

    Dec, 2022

  • 基于方向特征交互的黑盒模型解释

    为了提高机器学习中黑盒模型的可解释性，本研究运用双变量解释的方法来分析特征的相互作用，并通过 Shapley 值解释验证了此方法的能力。实验结果表明，在 CIFAR10，IMDB，人口普查，离婚，药物和基因数据等方面，本方法优于现有解释方法。

    Apr, 2023