Jul, 2023

Shapley Sets: 通过递归函数分解进行特征归属

PDF
TL;DR本文提出了一种替代 Shapley Value 功能归属的方法，名为 Shapley Sets，通过递归函数分解算法将基础模型分解为非可分离变量组，非常适用于具有复杂依赖结构的数据类型，并与 Shapley Value 具有相同的公平公理。
shapley value featureshapley setsvariable groupsfairnessdependency structure
发现论文，激发创造
  • 通过 Shapley 值的分解来解释模型和特征之间的依赖关系

    本文提出了一种新的算法方法，将 Shapley 值中两种不同的解释组合在一起，以增强模型的说明能力，并在两个真实世界的数据集上应用。

    Jun, 2023

  • L-Shapley 和 C-Shapley：用于结构化数据的高效模型解释

    本研究探讨了实例级特征重要性评分作为模型解释方法，并提出两种线性复杂度的算法来评估图结构数据中的特征贡献，并与其他模型解释方法进行比较。

    Aug, 2018

  • 模型解释的多个 Shapley 值

    本文探讨了 Shapley 值在归因问题中的多样实现方式及产生的问题，且提出了一种基于独特性原理的技术 Baseline Shapley（BShap），并将其与 Integrated Gradients 进行对比。

    Aug, 2019

  • 对可解释性的 Shapley 值的反驳

    该论文证明了存在着布尔函数，其中 Shapley 值提供了关于特征相对重要性的误导信息，相关的问题归结为与预测相关的特征的相关性或无关性，并且所有这些问题都与 Shapley 值在基于规则的可解释性方面的不足性有关。该论文通过证明，对于任意数量的特征，存在显示一种或多种揭示不足问题的布尔函数，从而为特征归属方法的理论基础中的 Shapley 值的使用提供决定性的反对理由。

    Sep, 2023

  • 关于测量相关输入重要性的 Shapley 值

    本文介绍了使用 Shapley 值来量化函数中随机输入变量的重要性，并探讨了基于 ANOVA 分解的替代方案在输入变量存在相关性时存在的概念和计算问题。通过一些简单的示例，我们说明 Shapley 值可以消除这些问题并产生直观合理的闭式数值。

    Oct, 2016

  • LLpowershap: 基于逻辑损失的自动 Shapley 值特征选择方法

    LLpowershap 是一种利用基于损失的 Shapley 值来识别信息特征的特征选择方法，与其他现有方法相比，它不仅能够识别更多的有信息特征，而且输出的噪声特征较少。在四个真实世界数据集上进行的基准测试结果显示，LLpowershap 的预测性能要么更高，要么与其他基于 Shapley 值的封装方法或过滤方法相当。

    Jan, 2024

  • 当特征具有依赖性时解释单个预测：更准确的 Shapley 值逼近

    本文介绍了使用 Shapley 值框架及其高维的计算有效近似，使复杂机器学习模型在解释各远行预测时更具可解释性，同时提出了处理相关特征的方法，增强了解释精度。

    Mar, 2019

  • Shapley Taylor 交互指数

    该论文提出一种称为 Shapley-Taylor 指数的方法来解决归因问题，并使用交互分布公理将其公理化，并将其应用于模型中以识别有趣的定性洞见。

    Feb, 2019

  • 基于 Shapley 值的模型解释的错误分析：一种信息性视角

    本文分析了 Shapley 值归因的解释误差，将解释误差分解为观察偏差和结构偏差两个组成部分，并且证明它们之间存在权衡关系。基于此误差分析框架，提出了过多信息和过少信息解释这两个新概念，并对现有的 Shapley 值归因方法进行了可能的过多信息和过少信息的理论分析。

    Apr, 2024

  • Shapley 解释网络

    本文提出使用 Shapley values 作为深度模型的潜在表示，使得 Shapley explanations 能够成为建模范式的第一等公民，从而实现了层次化解释、模型在训练期间的解释以及快速解释计算。作者证明了 ShapNets 确保 Shapley 值的缺失和准确性，并通过在合成和真实数据集上的演示展示了它的有效性。

    Apr, 2021