Jul, 2023

SHAP@k: 高效和可能近似正确的（PAC）识别前 k 个特征

PDF
TL;DR本文主要介绍了如何通过将 Top-k Identification Problem（TkIP）转化为探索 - 开发问题并利用多臂老虎机技术，改进 SHAP 方法在解决 TkIP 问题的样本效率。
shaptop-k identification problemkernelshapsamplingshapexplore-m problem
发现论文，激发创造
  • 透过逐层邻居选择来增强稳定性的 SHAP 形态塑造

    这篇论文研究了机器学习技术中局部后解释性方法的不稳定性问题，提出了通过改进确定邻居选取的方法以解决不稳定性问题，同时通过限制邻居生成的扰动范围得到了一种全新的特征归因方法。

    Dec, 2023

  • 利用模型结构信息高效计算 SHAP

    本文提出了多种方法，可以在多项式时间内准确计算 SHAP 值，适用于不同类型的模型结构信息，包括已知功能分解、已知模型顺序和未知模型顺序，其中的方法在实际应用中计算效率高且准确性较高。

    Sep, 2023

  • 使用 SHAP 和 LIME 的可证明稳定特征排序

    基于多重假设检验的思想，我们提出了一种特征归因方法 RankSHAP，能够以高概率正确排列最重要的特征，同时保证了计算效率。在实证结果中，我们还基于之前的工作为 LIME 扩展了类似的结果，确保以正确的顺序选择最重要的特征。

    Jan, 2024

  • 当特征具有依赖性时解释单个预测：更准确的 Shapley 值逼近

    本文介绍了使用 Shapley 值框架及其高维的计算有效近似，使复杂机器学习模型在解释各远行预测时更具可解释性，同时提出了处理相关特征的方法，增强了解释精度。

    Mar, 2019

  • 探索快速 Shapley 值估计的统一视角

    Shapley 值是一种广泛接受和可信赖的工具，用于解决深度神经网络等黑盒模型所带来的挑战。本研究分析了现有工作的一致性，并推断出随机估计器可以统一为特征子集重要性采样的线性变换。基于此，我们探讨设计简单的摊销估计器的可能性，并提出了一种简单高效的方法 ——SimSHAP，通过消除冗余技术。在表格和图像数据集上进行的大量实验证实了我们的 SimSHAP 的有效性，能够显著加速准确 Shapley 值的计算。

    Nov, 2023

  • 简洁的互动感知解释

    我们提出了一种将特征分割为显著相互作用的部分，并利用这些部分形成简明易解的加性解释的方法。实验证明，我们的解释比 SHAP 和 NSHAP 的解释更准确、更易理解。

    Feb, 2024

  • 通过线性回归改进 KernelSHAP：实用的 Shapley 值估算

    本文探讨了如何通过线性回归来有效估计机器学习模型的 Shapley 值，并提出了一种方差缩减技术，以加速两个估计器的收敛速度。此外，还发现了一种新的无偏版本 KernelSHAP，并提出了一种针对随机合作博弈的方法，可产生两个全局解释方法的快速新估计器。

    Dec, 2020

  • 解释模型预测的统一方法

    研究为什么一个模型做出某个特定的预测与预测准确性一样重要，然而对于像集成或深度学习模型这样的复杂模型，即使是专家也难以解释其高精度，因此需要各种方法来帮助解释预测，其中一个新方法，SHAP（Shapley Additive Explanations），通过为每个特征指定一个重要性值来解释预测。

    May, 2017

  • 关于马尔可夫分布下 SHAP 解释的可处理性

    通过引入马尔可夫视角，我们研究了 SHAP 得分的计算复杂性，并在一些模型类中展示了多项式时间内计算 SHAP 得分的积极复杂性结果，从而超越特征独立性假设的限制。

    May, 2024

  • 可解释机器学习中 SHAP 评分的分布性不确定性

    本文提出了一个基于不明实体群体分布的 SHAP 得分推理的原则性框架，并通过研究函数最大值和最小值的基本问题来确定所有特征的 SHAP 得分的紧密范围，最终通过实验显示我们的框架可以为更稳健的特征评分做出贡献。

    Jan, 2024