GNNShap: 使用 Shapley Values 实现快速精确的 GNN 解释
本文提出了一个统一的框架和一种新的局部模型无关解释方法 GraphSVX,以解释图神经网络模型的预测结果,并给出了在实际和合成数据集上的实验结果。
Apr, 2021
ONNXExplainer 是一个用 Shapley 值在 ONNX 生态系统中解释神经网络的通用框架,其自动微分和优化方法实现了一次部署、高效计算解释和更少内存消耗。通过与 SHAP 进行比较,广泛的基准测试表明,所提出的优化方法能够提高 VGG19、ResNet50、DenseNet201 和 EfficientNetB0 的解释延迟高达 500%。
Sep, 2023
本研究提出了一种名为 SubgraphX 的算法,采用蒙特卡洛树搜索来探索重要子图并使用 Shapley 值作为子图重要性的度量,从而以明确和直接的方式解释图神经网络 (GNNs) 的预测结果.
Feb, 2021
本文介绍了一种 Shapley-based 方法 GRAPHSHAP,它可以对黑盒图分类器提供基于模体的解释;并在具有自闭症谱系障碍和对照组的真实大脑网络数据集上进行了测试,证明该方法可以有效地解释黑盒分类器所提供的分类结果。
Feb, 2022
本文提出使用 Shapley values 作为深度模型的潜在表示,使得 Shapley explanations 能够成为建模范式的第一等公民,从而实现了层次化解释、模型在训练期间的解释以及快速解释计算。作者证明了 ShapNets 确保 Shapley 值的缺失和准确性,并通过在合成和真实数据集上的演示展示了它的有效性。
Apr, 2021
SHAPNN 是一种新颖的深度表格数据建模架构,通过利用 Shapley 值,一种解释黑盒模型的常用技术,我们的神经网络使用标准的反向传播优化方法进行训练,并利用实时估计的 Shapley 值进行正则化。我们的方法具有多个优点,包括可以为数据实例和数据集提供有效的解释而无需计算开销,而且带解释的预测还可以作为正则化器,提高模型性能,增强模型的持续学习能力。我们在各种公开可用的数据集上评估了我们的方法,并与最先进的深度神经网络模型进行比较,展示了 SHAPNN 在 AUROC、透明度和对流数据的鲁棒性方面的卓越性能。
Sep, 2023
通过提出一种名为 ShapG 的新的可解释人工智能 (XAI) 方法,该方法基于 Shapley 值来衡量特征的重要性,本文探讨了人工智能系统的解释和透明度的重要性,并通过与其他 XAI 方法的比较和广泛的实验证明 ShapG 的高效性和可应用性。
Jun, 2024
该研究提出了一种基于不确定性传播的深度神经网络 Shapley 值的多项式时间逼近方法,相较于现有最先进的归因方法,该方法可以显著地更好地逼近 Shapley 值。
Mar, 2019
FastSHAP 是一种使用学习解释器模型在一次正向传递中估计 Shapley 值的方法,通过启发 Shapley 值加权最小二乘估计的学习方法来分摊解释许多输入的成本,并且可以使用标准的随机梯度优化进行训练,与现有的估计方法进行比较,显示出具有高质量解释的数量级加速。
Jul, 2021
该研究提出了 GNNExplainer 方法,能够为任何基于 GNN 的模型和任何基于图的机器学习任务提供可解释性的预测解释,该方法能够识别关键的子图结构和节点特征,并能够生成一致而简洁的解释。
Mar, 2019