AAAIJul, 2020

基于 SHAP-Score 的解释在确定性和可分解布尔电路上的可计算性

PDF
TL;DR本文证明了对于确定性和可分解的布尔电路而言，SHAP 得分可以在多项式时间内计算，而将电路的其中一个属性删除，则计算 SHAP 得分问题将变得棘手（即 #P 难）
发现论文，激发创造
  • 关于马尔可夫分布下 SHAP 解释的可处理性

    通过引入马尔可夫视角，我们研究了 SHAP 得分的计算复杂性，并在一些模型类中展示了多项式时间内计算 SHAP 得分的积极复杂性结果，从而超越特征独立性假设的限制。

    May, 2024

  • 为 Shap Score 计算打开神经网络分类器

    本文研究了如何高效地计算机器学习模型中的 Shap 解释得分，通过将二元神经网络转换为确定性和可分解的布尔电路，并利用知识编译技术，将所得到的电路作为开放框模型来计算 Shap 分数，与将 BNN 作为黑盒模型直接计算 Shap 相比，在性能上有相当大的提升。

    Mar, 2023

  • 布尔函数期望 Shapley-Like 得分：复杂性及其对概率数据库的应用

    通过适应 Shapley 值以及类似的权力指数，本研究在概率设置下计算其期望值，研究了将布尔函数作为确定的可分解电路表示的可计算情况，并在 ProvSQL 系统中实现了这一算法，通过数据库来源验证了其可行性。

    Jan, 2024

  • SHAP 解释的可处理性研究

    本文研究了 SHAP 解释机制在计算复杂度上的困难度，并在三个重要场景下进行了探究，结果表明 SHAP 解释在常见的机器学习模型中的计算量是很高的。

    Sep, 2020

  • 利用模型结构信息高效计算 SHAP

    本文提出了多种方法，可以在多项式时间内准确计算 SHAP 值，适用于不同类型的模型结构信息，包括已知功能分解、已知模型顺序和未知模型顺序，其中的方法在实际应用中计算效率高且准确性较高。

    Sep, 2023

  • 可解释机器学习中 SHAP 评分的分布性不确定性

    本文提出了一个基于不明实体群体分布的 SHAP 得分推理的原则性框架，并通过研究函数最大值和最小值的基本问题来确定所有特征的 SHAP 得分的紧密范围，最终通过实验显示我们的框架可以为更稳健的特征评分做出贡献。

    Jan, 2024

  • 超越 TreeSHAP：用于树集成的任意阶 Shapley 互作用的高效计算

    TreeSHAP-IQ 是一种高效的方法，用于计算基于树的模型预测的任意阶可加性 Shapley 相互作用，并通过数学框架支持，利用多项式算术在树的单个递归遍历中计算相互作用分数。

    Jan, 2024

  • 简洁的互动感知解释

    我们提出了一种将特征分割为显著相互作用的部分，并利用这些部分形成简明易解的加性解释的方法。实验证明，我们的解释比 SHAP 和 NSHAP 的解释更准确、更易理解。

    Feb, 2024

  • 对可解释性的 Shapley 值的反驳

    该论文证明了存在着布尔函数，其中 Shapley 值提供了关于特征相对重要性的误导信息，相关的问题归结为与预测相关的特征的相关性或无关性，并且所有这些问题都与 Shapley 值在基于规则的可解释性方面的不足性有关。该论文通过证明，对于任意数量的特征，存在显示一种或多种揭示不足问题的布尔函数，从而为特征归属方法的理论基础中的 Shapley 值的使用提供决定性的反对理由。

    Sep, 2023

  • L-Shapley 和 C-Shapley：用于结构化数据的高效模型解释

    本研究探讨了实例级特征重要性评分作为模型解释方法，并提出两种线性复杂度的算法来评估图结构数据中的特征贡献，并与其他模型解释方法进行比较。

    Aug, 2018