使用整合回归逼近基于分数的解释技术

Aug, 2023

使用整合回归逼近基于分数的解释技术

Approximating Score-based Explanation Techniques Using Conformal Regression

Amr Alkhatib, Henrik Boström, Sofiane Ennadir, Ulf Johansson

TL;DR我们提出并研究了使用计算成本较低的回归模型来逼近诸如 SHAP 之类的基于分数解释技术的输出，通过采用归纳符合预测框架提供了对逼近值的有效性保证。我们提出了几种非一致性度量方法，旨在考虑到解释逼近的困难程度同时保持计算成本的低廉。通过大规模实证研究的结果表明，我们提出的模型生成的近似解释在效率（区间大小）方面得到了评估。结果表明，与快速版本的 SHAP TreeSHAP 相比，所提出的方法可以显著提高执行时间。结果还表明，所提出的方法可以产生紧密的区间，同时提供有效性保证。此外，所提出的方法允许比较不同逼近方法的解释，并根据预测区间的信息量（紧密程度）选择一种方法。

Abstract

Score-based explainable machine-learning techniques are often used to understand the logic behind black-box models. However, such explanation techniques are often computationally expensive, which limits their application in time-critical contexts. Therefore, we propose and investigate

explainable machine-learning techniques score-based explanation techniques regression models approximating validity guarantees

发现论文，激发创造

SHAP 对 Alert 处理的人类基础评估

在本研究中，我们对一种名为 SHAP 的解释方法进行人本评估，该方法已在可解释人工智能和相关社区中广受欢迎。我们研究了这种局部规范无关解释方法是否对实际的人类领域专家有用，以评估分类器产生的正面预测的正确性。结果表明，SHAP 解释确实影响决策过程，尽管该方法得分的置信度仍然是主要的证据来源。但在我们的实验中，当提示信息可用时，与不提供提示信息相比，在警报处理性能方面并没有明显差异。

Jul, 2019

关于马尔可夫分布下 SHAP 解释的可处理性

通过引入马尔可夫视角，我们研究了 SHAP 得分的计算复杂性，并在一些模型类中展示了多项式时间内计算 SHAP 得分的积极复杂性结果，从而超越特征独立性假设的限制。

May, 2024

利用模型结构信息高效计算 SHAP

本文提出了多种方法，可以在多项式时间内准确计算 SHAP 值，适用于不同类型的模型结构信息，包括已知功能分解、已知模型顺序和未知模型顺序，其中的方法在实际应用中计算效率高且准确性较高。

Sep, 2023

SHAP 解释的可处理性研究

本文研究了 SHAP 解释机制在计算复杂度上的困难度，并在三个重要场景下进行了探究，结果表明 SHAP 解释在常见的机器学习模型中的计算量是很高的。

Sep, 2020

当特征具有依赖性时解释单个预测：更准确的 Shapley 值逼近

本文介绍了使用 Shapley 值框架及其高维的计算有效近似，使复杂机器学习模型在解释各远行预测时更具可解释性，同时提出了处理相关特征的方法，增强了解释精度。

Mar, 2019

快速自适应预测区间的回归树

提供一种新的方法，用于校准具有局部覆盖保证的回归问题的预测区间，该方法基于训练回归树和随机森林的合规得分创建最粗糙的特征空间划分，适用于各种合规得分和预测设置，且在模拟和实际数据集中表现出比现有基准更优的可扩展性和性能。

Feb, 2024

基于模式的黑盒图分类器解释方法：GRAPHSHAP

本文介绍了一种 Shapley-based 方法 GRAPHSHAP，它可以对黑盒图分类器提供基于模体的解释；并在具有自闭症谱系障碍和对照组的真实大脑网络数据集上进行了测试，证明该方法可以有效地解释黑盒分类器所提供的分类结果。

Feb, 2022

可靠的事后解释：解释性中的不确定性建模

本文提出了基于贝叶斯框架的黑盒模型解释方法，能够生成可靠的局部解释和其关联的不确定性，并且具有稳定性和高度一致性，可以快速地解决几个重要问题。通过实证研究，证明了该方法的有效性，并提高了解释的可靠性。

Aug, 2020

简洁的互动感知解释

我们提出了一种将特征分割为显著相互作用的部分，并利用这些部分形成简明易解的加性解释的方法。实验证明，我们的解释比 SHAP 和 NSHAP 的解释更准确、更易理解。

Feb, 2024

解释博弈：使用 Shapley 值解释机器学习模型

本研究提出了一个新的机器学习模型解释框架 FAE（Formulate，Approximate，Explain）。该框架利用了 Shapley 值和博弈论方法进行解释，并提供了置信区间和对比解释来解释黑盒子模型在不同数据集上的结构。

Sep, 2019