Sep, 2023

基于 ONNX 的通用框架：使用 Shapley 值解释神经网络的 ONNXExplainer

PDF
TL;DRONNXExplainer 是一个用 Shapley 值在 ONNX 生态系统中解释神经网络的通用框架，其自动微分和优化方法实现了一次部署、高效计算解释和更少内存消耗。通过与 SHAP 进行比较，广泛的基准测试表明，所提出的优化方法能够提高 VGG19、ResNet50、DenseNet201 和 EfficientNetB0 的解释延迟高达 500%。
neural network modelshapley valuesonnxexplainerexplanationoptimization approach
发现论文，激发创造
  • GNNShap: 使用 Shapley Values 实现快速精确的 GNN 解释

    本研究提出了 GNNShap 方法，通过并行化抽样、批处理加速模型预测，为边提供更自然和细粒度的图解释，克服了样本数有限、速度慢等限制，并在真实数据集上取得了较好的可信度分数和更快的解释。

    Jan, 2024

  • Shapley 解释网络

    本文提出使用 Shapley values 作为深度模型的潜在表示，使得 Shapley explanations 能够成为建模范式的第一等公民，从而实现了层次化解释、模型在训练期间的解释以及快速解释计算。作者证明了 ShapNets 确保 Shapley 值的缺失和准确性，并通过在合成和真实数据集上的演示展示了它的有效性。

    Apr, 2021

  • SHAPNN: Shapley 值正则化表格型神经网络

    SHAPNN 是一种新颖的深度表格数据建模架构，通过利用 Shapley 值，一种解释黑盒模型的常用技术，我们的神经网络使用标准的反向传播优化方法进行训练，并利用实时估计的 Shapley 值进行正则化。我们的方法具有多个优点，包括可以为数据实例和数据集提供有效的解释而无需计算开销，而且带解释的预测还可以作为正则化器，提高模型性能，增强模型的持续学习能力。我们在各种公开可用的数据集上评估了我们的方法，并与最先进的深度神经网络模型进行比较，展示了 SHAPNN 在 AUROC、透明度和对流数据的鲁棒性方面的卓越性能。

    Sep, 2023

  • 变分 Shapley 网络：基于概率的自解释 Shapley 值与不确定性量化方法

    我们引入了一种新颖的、能够显著简化 Shapley 值计算的自解释方法，并且探索了将概率框架纳入其中以捕捉解释中固有的不确定性，它基于一个新颖的遮蔽神经网络体系结构，在模拟和真实数据集上的评估验证了我们技术的稳健预测和解释性能。

    Feb, 2024

  • DeepCSHAP: 利用 Shapley 值解释深度复杂值神经网络

    深度神经网络和解释算法在复杂数值神经网络研究中的关键应用和评估

    Mar, 2024

  • GraphSVX：图神经网络的 Shapley 值解释

    本文提出了一个统一的框架和一种新的局部模型无关解释方法 GraphSVX，以解释图神经网络模型的预测结果，并给出了在实际和合成数据集上的实验结果。

    Apr, 2021

  • 用于 Shapley 值近似的多项式时间算法解释深度神经网络

    该研究提出了一种基于不确定性传播的深度神经网络 Shapley 值的多项式时间逼近方法，相较于现有最先进的归因方法，该方法可以显著地更好地逼近 Shapley 值。

    Mar, 2019

  • 解释博弈：使用 Shapley 值解释机器学习模型

    本研究提出了一个新的机器学习模型解释框架 FAE（Formulate，Approximate，Explain）。该框架利用了 Shapley 值和博弈论方法进行解释，并提供了置信区间和对比解释来解释黑盒子模型在不同数据集上的结构。

    Sep, 2019

  • FastSHAP: 实时 Shapley 值估计

    FastSHAP 是一种使用学习解释器模型在一次正向传递中估计 Shapley 值的方法，通过启发 Shapley 值加权最小二乘估计的学习方法来分摊解释许多输入的成本，并且可以使用标准的随机梯度优化进行训练，与现有的估计方法进行比较，显示出具有高质量解释的数量级加速。

    Jul, 2021

  • 通过传播局部组成部分的 Shapley 值来解释模型

    介绍了一种名为 DeepSHAP 的混合模型解释框架，它基于 Shapley 值，可以用来解释由不同模型堆叠而成的复杂模型，包括神经网络和树形模型，并能够为损失函数提供解释。

    Nov, 2019