Jan, 2024

可解释机器学习中 SHAP 评分的分布性不确定性

PDF
TL;DR本文提出了一个基于不明实体群体分布的 SHAP 得分推理的原则性框架，并通过研究函数最大值和最小值的基本问题来确定所有特征的 SHAP 得分的紧密范围，最终通过实验显示我们的框架可以为更稳健的特征评分做出贡献。
发现论文，激发创造
  • 使用信息理论 Shapley 值解释预测不确定性

    本文提出一种将 Shapley 值框架用于解释各种预测不确定性的方法，旨在通过量化每个特征对个体模型输出的条件熵的贡献来解释模型输出的不确定度；该方法具有用于协变量转移检测、主动学习、特征选择和主动特征值获取的应用。

    Jun, 2023

  • 解释博弈：使用 Shapley 值解释机器学习模型

    本研究提出了一个新的机器学习模型解释框架 FAE（Formulate，Approximate，Explain）。该框架利用了 Shapley 值和博弈论方法进行解释，并提供了置信区间和对比解释来解释黑盒子模型在不同数据集上的结构。

    Sep, 2019

  • SHAP 解释的可处理性研究

    本文研究了 SHAP 解释机制在计算复杂度上的困难度，并在三个重要场景下进行了探究，结果表明 SHAP 解释在常见的机器学习模型中的计算量是很高的。

    Sep, 2020

  • 关于马尔可夫分布下 SHAP 解释的可处理性

    通过引入马尔可夫视角，我们研究了 SHAP 得分的计算复杂性，并在一些模型类中展示了多项式时间内计算 SHAP 得分的积极复杂性结果，从而超越特征独立性假设的限制。

    May, 2024

  • 解释模型预测的统一方法

    研究为什么一个模型做出某个特定的预测与预测准确性一样重要，然而对于像集成或深度学习模型这样的复杂模型，即使是专家也难以解释其高精度，因此需要各种方法来帮助解释预测，其中一个新方法，SHAP（Shapley Additive Explanations），通过为每个特征指定一个重要性值来解释预测。

    May, 2017

  • L-Shapley 和 C-Shapley：用于结构化数据的高效模型解释

    本研究探讨了实例级特征重要性评分作为模型解释方法，并提出两种线性复杂度的算法来评估图结构数据中的特征贡献，并与其他模型解释方法进行比较。

    Aug, 2018

  • 从 SHAP 得分到特征重要性得分

    本文介绍了可解释人工智能（XAI）的核心目标，即根据预测结果赋予机器学习模型特征的相对重要性。通过对功能归属的精确计算，研究表明该任务是非常重要的，并且之前提出的一些公理化聚合代表了过去研究中探讨的多个权力指数示例。此外，本文探讨了如何将一些广泛使用的权力指数用作特征重要性评分，并提出了满足可解释人工智能的新颖特征重要性评分。最后，文章对最知名的权力指数在提出的指标方面进行了深入分析。

    May, 2024

  • 关于修正 SHAP 分数

    本篇论文通过探讨 SHAP 得分中存在的问题以及特征函数的影响，提出了几种新的特征函数来替代现有的函数，以消除 SHAP 得分的一些限制。

    Apr, 2024

  • 当特征具有依赖性时解释单个预测：更准确的 Shapley 值逼近

    本文介绍了使用 Shapley 值框架及其高维的计算有效近似，使复杂机器学习模型在解释各远行预测时更具可解释性，同时提出了处理相关特征的方法，增强了解释精度。

    Mar, 2019

  • 可解释人工智能中特征相关性量化：因果问题

    讨论了使用 Shapley 值量化特征相关性的最新研究进展，针对哪种概率分布是适用于删除特征的正确之一存在一些混淆，建议根据 Pearl 对因果关系的重大工作进行澄清，得出无条件的期望是正确的删除特征概念的结论，SHAP 软件包的部分内容受到影响，因为被用作近似条件期望的无条件期望（我们认为这是概念上正确的），促使其他人以我们认为是有缺陷的方式 “改进” SHAP。

    Oct, 2019