强模型的Shapley边际剩余
本研究探讨了实例级特征重要性评分作为模型解释方法,并提出两种线性复杂度的算法来评估图结构数据中的特征贡献,并与其他模型解释方法进行比较。
Aug, 2018
本文探讨了Shapley值在归因问题中的多样实现方式及产生的问题,且提出了一种基于独特性原理的技术Baseline Shapley(BShap),并将其与Integrated Gradients进行对比。
Aug, 2019
采用博弈论方法计算机器学习模型特征重要性的数学问题存在和Shapley值并不能很好地解释人类可解释目标的论证以及需要因果推理等技术增加复杂性。
Feb, 2020
该研究论文讨论了在机器学习中解释协作游戏的Shapley值的应用,特别是在特征归因方面。作者提出了两种主要方法来连接机器学习模型和协同游戏,并讨论了如何在模型和数据之间进行选择。此外,他们提出了一个有效的方法来计算线性模型中Shapley值,并在两个实际的数据案例中研究了与特征属性相关的建模选择。
Jun, 2020
本文探讨了Shapley 值在贝叶斯网络框架下的应用,分析了Shapley 值与条件独立性的关系,并发现高Shapley值的变量不一定对模型预测性能有显著影响,而低Shapley值的变量可能会导致较差的预测结果。因此,在一般情况下,使用Shapley值进行特征选择并不一定能建立起最简单和预测性最优的模型,而且Shapley值不反映变量与目标之间的因果关系。
Aug, 2020
使用合作谢普利方法(Cohort Shapley)来验证黑盒预测算法的重要变量,并通过经济博弈理论来量化变量的重要性。该方法可以用于算法公平性问题,以确定受保护变量的重要性,并通过贝叶斯自助法估计Shapley值的不确定性。
May, 2022
本文提出了一种新的算法方法,将Shapley值中两种不同的解释组合在一起,以增强模型的说明能力,并在两个真实世界的数据集上应用。
Jun, 2023
我们引入了一种新颖的、能够显著简化Shapley值计算的自解释方法,并且探索了将概率框架纳入其中以捕捉解释中固有的不确定性,它基于一个新颖的遮蔽神经网络体系结构,在模拟和真实数据集上的评估验证了我们技术的稳健预测和解释性能。
Feb, 2024
本研究聚焦于Shapley值的计算方法,特别是条件方法和边际方法在特征相关情况下导致的不一致结果。提出了通过因果论证解决这一争议的新颖方法,发现条件方法在因果角度上存在根本性缺陷,并推论出边际方法应优于条件方法。该研究为合理选择Shapley值计算方法提供了理论基础,具有重要的实用价值。
Sep, 2024