shapiq：用于机器学习的Shapley交互

Oct, 2024

shapiq: Shapley Interactions for Machine Learning

Maximilian Muschalik, Hubert Baniecki, Fabian Fumagalli, Patrick Kolpaczki, Barbara Hammer...

TL;DR本研究解决了Shapley值在机器学习特征归因及数据估值中的局限性，通过引入Shapley交互（SIs）为实体群体分配联合贡献，提升对黑箱模型的理解。我们提出的shapiq是一个开源Python包，整合了最先进的算法，能够高效计算Shapley值和任意阶的SIs，并提供了基准测试工具，以系统性评估其在多种机器学习应用中的性能。

Abstract

Originally rooted in game theory, the Shapley Value (SV) has recently become an important tool in Machine Learning research. Perhaps most notably, it is used for →

发现论文，激发创造

L-Shapley 和 C-Shapley：用于结构化数据的高效模型解释

本研究探讨了实例级特征重要性评分作为模型解释方法，并提出两种线性复杂度的算法来评估图结构数据中的特征贡献，并与其他模型解释方法进行比较。

Aug, 2018

解释博弈：使用 Shapley 值解释机器学习模型

本研究提出了一个新的机器学习模型解释框架FAE（Formulate，Approximate，Explain）。该框架利用了Shapley值和博弈论方法进行解释，并提供了置信区间和对比解释来解释黑盒子模型在不同数据集上的结构。

Sep, 2019

一个多线性采样算法用于估计 Shapley 值

本论文提出了一种基于多线性扩展技术的新采样方法来估计Shapley值，可用于任何机器学习模型，特别是多类分类或回归问题。通过对两个数据集的实验，我们证明了该方法通过减少采样统计变量的方差来提供更准确的Shapley值估计。

Oct, 2020

Shapley Flow：一种基于图的模型解释方法

提出了一种称之为Shapley Flow的新颖方法来解释机器学习模型，它可以考虑所有因果图，并将信用分配给边，而不是节点。

Oct, 2020

能否忠实地表示缺失状态以计算DNN中的Shapley值？

本文提出了一种基于因果关系的模型特征表示方法，探讨了基于屏蔽措施的归因方法的理论缺陷，证明了因果关系是 Shapley 值的基本原理，定义了最佳的基线值，并提出了一种通过学习得到最佳基线值的方法，实验结果证明了该方法的有效性。

May, 2021

机器学习中的 Shapley 值

本文介绍了合作博弈理论的基本概念以及Shapley value的公理性质，概述了其在机器学习中的最重要应用：特征选择，可解释性，多智能体强化学习，集成修剪和数据估价，指出了Shapley value的主要局限性和未来研究方向。

Feb, 2022

SHAP-IQ：任意阶Shapley交互的统一逼近

该研究提出了一种基于采样的计算Shapley interaction的新方法SHAP-IQ，可以用于所有符合线性、对称和虚拟公理的定义，理论上保证了其逼近质量，并提供了点估计的方差估计。该方法极大地简化了SV的计算，效率和效果得到了验证。

Mar, 2023

通过 Shapley 值的分解来解释模型和特征之间的依赖关系

本文提出了一种新的算法方法，将Shapley值中两种不同的解释组合在一起，以增强模型的说明能力，并在两个真实世界的数据集上应用。

Jun, 2023

超越TreeSHAP：用于树集成的任意阶Shapley互作用的高效计算

TreeSHAP-IQ是一种高效的方法，用于计算基于树的模型预测的任意阶可加性Shapley相互作用，并通过数学框架支持，利用多项式算术在树的单个递归遍历中计算相互作用分数。

Jan, 2024

KernelSHAP-IQ: Shapley交互的加权最小二乘优化

该研究论文提出了一种对机器学习模型进行解释的方法，通过使用Shapley value（沙普利价值）和Shapley Interaction Index（沙普利相互作用指数）来分析黑盒机器学习模型中的信用分配问题，并且给出了一种称为KernelSHAP-IQ的方法来解决特征相互作用的问题。

May, 2024