Sep, 2023

SHAPNN: Shapley 值正则化表格型神经网络

PDF
TL;DRSHAPNN 是一种新颖的深度表格数据建模架构，通过利用 Shapley 值，一种解释黑盒模型的常用技术，我们的神经网络使用标准的反向传播优化方法进行训练，并利用实时估计的 Shapley 值进行正则化。我们的方法具有多个优点，包括可以为数据实例和数据集提供有效的解释而无需计算开销，而且带解释的预测还可以作为正则化器，提高模型性能，增强模型的持续学习能力。我们在各种公开可用的数据集上评估了我们的方法，并与最先进的深度神经网络模型进行比较，展示了 SHAPNN 在 AUROC、透明度和对流数据的鲁棒性方面的卓越性能。
发现论文，激发创造
  • GNNShap: 使用 Shapley Values 实现快速精确的 GNN 解释

    本研究提出了 GNNShap 方法，通过并行化抽样、批处理加速模型预测，为边提供更自然和细粒度的图解释，克服了样本数有限、速度慢等限制，并在真实数据集上取得了较好的可信度分数和更快的解释。

    Jan, 2024

  • 变分 Shapley 网络：基于概率的自解释 Shapley 值与不确定性量化方法

    我们引入了一种新颖的、能够显著简化 Shapley 值计算的自解释方法，并且探索了将概率框架纳入其中以捕捉解释中固有的不确定性，它基于一个新颖的遮蔽神经网络体系结构，在模拟和真实数据集上的评估验证了我们技术的稳健预测和解释性能。

    Feb, 2024

  • Shapley 解释网络

    本文提出使用 Shapley values 作为深度模型的潜在表示，使得 Shapley explanations 能够成为建模范式的第一等公民，从而实现了层次化解释、模型在训练期间的解释以及快速解释计算。作者证明了 ShapNets 确保 Shapley 值的缺失和准确性，并通过在合成和真实数据集上的演示展示了它的有效性。

    Apr, 2021

  • 基于 ONNX 的通用框架：使用 Shapley 值解释神经网络的 ONNXExplainer

    ONNXExplainer 是一个用 Shapley 值在 ONNX 生态系统中解释神经网络的通用框架，其自动微分和优化方法实现了一次部署、高效计算解释和更少内存消耗。通过与 SHAP 进行比较，广泛的基准测试表明，所提出的优化方法能够提高 VGG19、ResNet50、DenseNet201 和 EfficientNetB0 的解释延迟高达 500%。

    Sep, 2023

  • FastSHAP: 实时 Shapley 值估计

    FastSHAP 是一种使用学习解释器模型在一次正向传递中估计 Shapley 值的方法，通过启发 Shapley 值加权最小二乘估计的学习方法来分摊解释许多输入的成本，并且可以使用标准的随机梯度优化进行训练，与现有的估计方法进行比较，显示出具有高质量解释的数量级加速。

    Jul, 2021

  • DeepCSHAP: 利用 Shapley 值解释深度复杂值神经网络

    深度神经网络和解释算法在复杂数值神经网络研究中的关键应用和评估

    Mar, 2024

  • 探索快速 Shapley 值估计的统一视角

    Shapley 值是一种广泛接受和可信赖的工具，用于解决深度神经网络等黑盒模型所带来的挑战。本研究分析了现有工作的一致性，并推断出随机估计器可以统一为特征子集重要性采样的线性变换。基于此，我们探讨设计简单的摊销估计器的可能性，并提出了一种简单高效的方法 ——SimSHAP，通过消除冗余技术。在表格和图像数据集上进行的大量实验证实了我们的 SimSHAP 的有效性，能够显著加速准确 Shapley 值的计算。

    Nov, 2023

  • 用于 Shapley 值近似的多项式时间算法解释深度神经网络

    该研究提出了一种基于不确定性传播的深度神经网络 Shapley 值的多项式时间逼近方法，相较于现有最先进的归因方法，该方法可以显著地更好地逼近 Shapley 值。

    Mar, 2019

  • 基于能量模型的准确 Shapley 值估计用于解释性深度学习预测建模

    本文介绍了 EmSHAP（基于能量模型的 Shapley 值估计），它可以有效地近似预测模型在任意特征子集上的 Shapley 贡献函数的期望值。通过引入门控循环单元（GRU）将输入特征映射到隐藏空间，以消除输入特征排序的影响，并提出了动态屏蔽方案来提高泛化能力。定理 1、2 和 3 证明了 EmSHAP 比 KernelSHAP 和 VAEAC 等现有方法具有更紧的误差界限，从而实现了更高的估计精度。最后，针对医学和工业领域的应用案例表明，所提出的基于 Shapley 值的可解释框架具有提高的估计精度而无需牺牲效率。

    Apr, 2024

  • 使用视觉 Transformer 学习估计 Shapley 值

    本研究介绍了对视觉 transformers 模型引入 Shapley 值进行解释的方法，通过使用注意掩模方法以及另一个学习的解释模型，有效地生成了更准确的模型解释。

    Jun, 2022