Oct, 2016

关于测量相关输入重要性的 Shapley 值

PDF
TL;DR本文介绍了使用 Shapley 值来量化函数中随机输入变量的重要性，并探讨了基于 ANOVA 分解的替代方案在输入变量存在相关性时存在的概念和计算问题。通过一些简单的示例，我们说明 Shapley 值可以消除这些问题并产生直观合理的闭式数值。
shapley valueimportance quantificationanova decompositioninput variablesdependency
发现论文，激发创造
  • Shapley 协同精炼解释黑盒决策

    我们提出了一种变量重要性度量，基于博弈论中的 Shapley 值，用于量化黑盒函数中各个输入变量的影响。我们的度量基于观察数据分组来计算，连接了可解释 AI 领域的变量重要性度量和全局敏感性分析的函数分解方法，并引入了一个平方 Shapley 值，可以将原来研究中的 Shapley 效应分解到不同的观测数据组之间。

    Nov, 2019

  • 通过 Shapley 值的分解来解释模型和特征之间的依赖关系

    本文提出了一种新的算法方法，将 Shapley 值中两种不同的解释组合在一起，以增强模型的说明能力，并在两个真实世界的数据集上应用。

    Jun, 2023

  • 使用 Shapley Value 进行模型解释的预测和因果推论

    本文探讨了 Shapley 值在贝叶斯网络框架下的应用，分析了 Shapley 值与条件独立性的关系，并发现高 Shapley 值的变量不一定对模型预测性能有显著影响，而低 Shapley 值的变量可能会导致较差的预测结果。因此，在一般情况下，使用 Shapley 值进行特征选择并不一定能建立起最简单和预测性最优的模型，而且 Shapley 值不反映变量与目标之间的因果关系。

    Aug, 2020

  • 无法实现数据的变量重要性

    使用合作谢普利方法（Cohort Shapley）来验证黑盒预测算法的重要变量，并通过经济博弈理论来量化变量的重要性。该方法可以用于算法公平性问题，以确定受保护变量的重要性，并通过贝叶斯自助法估计 Shapley 值的不确定性。

    May, 2022

  • 一个高效的纳什均衡值计算方法用于朴素贝叶斯分类器

    本文提出了 Shapley 值在朴素贝叶斯分类器中的确切分析表达式，并对其与证据权重和 KernelShap 在实际数据集上的结果进行了比较，结果表明我们的 Shapley 方案在算法复杂度低的情况下提供了具有信息量的结果，可以在大规模数据集上以极低的计算时间使用。

    Jul, 2023

  • L-Shapley 和 C-Shapley：用于结构化数据的高效模型解释

    本研究探讨了实例级特征重要性评分作为模型解释方法，并提出两种线性复杂度的算法来评估图结构数据中的特征贡献，并与其他模型解释方法进行比较。

    Aug, 2018

  • 使用 Shapley 值进行人口特征重要性的高效非参数统计推断

    本文提出了一种基于 Shapley 种群变量重要性度量 (SPVIM) 的变量重要性估计器，通过仅对指定数量的特征子集进行随机采样来减少计算复杂度，并证明了其在渐进意义下收敛的最佳速率，可以建立有效的置信区间和假设检验。在模拟实验和真实数据集上均表现出好的性能。

    Jun, 2020

  • 当特征具有依赖性时解释单个预测：更准确的 Shapley 值逼近

    本文介绍了使用 Shapley 值框架及其高维的计算有效近似，使复杂机器学习模型在解释各远行预测时更具可解释性，同时提出了处理相关特征的方法，增强了解释精度。

    Mar, 2019

  • Shapley Sets: 通过递归函数分解进行特征归属

    本文提出了一种替代 Shapley Value 功能归属的方法，名为 Shapley Sets，通过递归函数分解算法将基础模型分解为非可分离变量组，非常适用于具有复杂依赖结构的数据类型，并与 Shapley Value 具有相同的公平公理。

    Jul, 2023

  • 基于 Shapley 值的解释存在的特征重要性度量问题

    采用博弈论方法计算机器学习模型特征重要性的数学问题存在和 Shapley 值并不能很好地解释人类可解释目标的论证以及需要因果推理等技术增加复杂性。

    Feb, 2020