Jun, 2020

遵循模型还是遵循数据的真实性？

PDF
TL;DR该研究论文讨论了在机器学习中解释协作游戏的 Shapley 值的应用，特别是在特征归因方面。作者提出了两种主要方法来连接机器学习模型和协同游戏，并讨论了如何在模型和数据之间进行选择。此外，他们提出了一个有效的方法来计算线性模型中 Shapley 值，并在两个实际的数据案例中研究了与特征属性相关的建模选择。
shapley valuescoalitional gamesmachine learningfeature attributionlinear models
发现论文，激发创造
  • 估计条件 Shapley 值方法的比较研究及其应用

    本文主要研究如何使用 Monte Carlo 积分或回归来模拟条件期望值以估计 Shapley 值，以及对现有方法进行改进和系统化分类，并进行广泛的模拟和实际数据实验来评估和推荐何时使用不同的方法类。

    May, 2023

  • 解释博弈：使用 Shapley 值解释机器学习模型

    本研究提出了一个新的机器学习模型解释框架 FAE（Formulate，Approximate，Explain）。该框架利用了 Shapley 值和博弈论方法进行解释，并提供了置信区间和对比解释来解释黑盒子模型在不同数据集上的结构。

    Sep, 2019

  • 使用 Shapley Value 进行模型解释的预测和因果推论

    本文探讨了 Shapley 值在贝叶斯网络框架下的应用，分析了 Shapley 值与条件独立性的关系，并发现高 Shapley 值的变量不一定对模型预测性能有显著影响，而低 Shapley 值的变量可能会导致较差的预测结果。因此，在一般情况下，使用 Shapley 值进行特征选择并不一定能建立起最简单和预测性最优的模型，而且 Shapley 值不反映变量与目标之间的因果关系。

    Aug, 2020

  • 模型解释的多个 Shapley 值

    本文探讨了 Shapley 值在归因问题中的多样实现方式及产生的问题，且提出了一种基于独特性原理的技术 Baseline Shapley（BShap），并将其与 Integrated Gradients 进行对比。

    Aug, 2019

  • 机器学习中的 Shapley 值

    本文介绍了合作博弈理论的基本概念以及 Shapley value 的公理性质，概述了其在机器学习中的最重要应用：特征选择，可解释性，多智能体强化学习，集成修剪和数据估价，指出了 Shapley value 的主要局限性和未来研究方向。

    Feb, 2022

  • 当特征具有依赖性时解释单个预测：更准确的 Shapley 值逼近

    本文介绍了使用 Shapley 值框架及其高维的计算有效近似，使复杂机器学习模型在解释各远行预测时更具可解释性，同时提出了处理相关特征的方法，增强了解释精度。

    Mar, 2019

  • L-Shapley 和 C-Shapley：用于结构化数据的高效模型解释

    本研究探讨了实例级特征重要性评分作为模型解释方法，并提出两种线性复杂度的算法来评估图结构数据中的特征贡献，并与其他模型解释方法进行比较。

    Aug, 2018

  • 概率分类器上的 Shapley 值

    本文提出了一种概率 Shapley 值（P-Shapley），通过构建一个基于概率分类器的类概率效用函数来量化每个数据点对概率分类器的边际贡献，并提供几种置信度校准的激活函数，从而实现评估数据重要性以构建高可用性和可信赖性 ML 模型的目的。

    Jun, 2023

  • 分布式 Shapley 值的高效计算和分析

    本文提出了分布式数据 Shapley 值（DShapley），该值是将 Shapley 值等博弈理论概念开发到了机器学习的统计框架，并可以应用于识别对学习算法有用或有害的数据点。本文通过导出线性回归，二元分类和非参数密度估计的 DShapley 的第一批分析表达式，提供了新的算法来快速估计 DShapley，这些公式直接解释并为不同数据类型提供量化的见解。

    Jul, 2020

  • 一种基于 Shapley 值且对回归中概念漂移具有鲁棒性的特征选择方法

    本文提出了一种新的特征选择方法，使用 Shapley 值来研究每个变量对预测的影响，以应对数据集漂移和变量关系变化的情况，并通过分析电力市场的例子进行验证。

    Apr, 2023