黑匣子模型的全局局部解释

SIGIRJul, 2019

Global Aggregations of Local Explanations for Black Box models

Ilse van der Linden, Hinda Haned, Evangelos Kanoulas

TL;DR本研究提出了一种名为 GALE 的机器学习模型，旨在提供有关模型全局决策过程的洞见。结果表明，聚合方法的选择很重要，我们的提出的聚合方法能更好地代表特征如何影响模型的预测，并通过识别区分性特征提供全局洞见。

Abstract

The decision-making process of many state-of-the-art machine learning models is inherently inscrutable to the extent that it is impossible for a human to interpret the model directly: they are black box models. T

machine learning black box models global explanations local explanations gale

发现论文，激发创造

GLocalX -- 从本地到全局的黑匣子 AI 模型解释

GLocalX 是一种基于本地解释的模型无关的解释方法，通过汇总本地解释解释部分理解黑匣子模型，从而学习精确而简单的可解释模型，以替代黑匣子模型。实验证明，GLocalX 能够准确地模拟几种模型，其性能达到本机全局解决方案的最新水平，这为在带有高维数据的复杂领域中实现高准确性和可理解性的分类模型奠定了基础。

Jan, 2021

黑盒决策系统的本地基于规则的解释

本文提出了一种名为 LORE 的黑匣子探明方法，能够从逻辑和反事实规则两个层面解释黑匣子机器学习模型的决策原因，从而提高其在社会敏感和安全关键环境中的可用性和透明度。

May, 2018

MAGIX: 模型无关的全局可解释解释

该研究提出一种通过学习 if-then 规则来全局解释黑盒机器学习模型行为的方法，并通过公开数据集和数字营销数据集的黑盒模型进行实证验证。

Jun, 2017

通过模型提取方法解释黑匣子模型

为了解释黑盒模型，本文提出使用决策树对其进行全局解释，并采用新的决策树提取算法避免过拟合，评估表明该方法正确率更高且可解释性更强。

May, 2017

机器学习模型的本地可解释模型无关 Shap 解释

提出了一种称为 LIMASE 的局部可解释模型无关 Shap 说明法，该方法使用 Shapley 值来解释任何模型的预测，提供局部和全局可解释的解释，解决子模块优化问题，为地区解释带来见解，并在与内核解释器相比计算更快。

Oct, 2022

GLIME: 通用、稳定和本地的 LIME 解释

解释黑盒机器学习模型的预测的方法 LIME 存在随机种子不稳定和局部准确率低的问题，通过引入增强框架 GLIME 解决了这些挑战，提供了相对稳定且拥有更高局部准确率的解释。

Nov, 2023

模型无关的监督式本地解释

MAPLE 是一种新颖的模型解释系统，使用局部线性建模技术和随机森林的双重解释，提供黑盒解释，并兼具高精度的预测模型和优越的局部解释能力。

Jul, 2018

机器学习的模型无关可解释性

机器学习中的可解释性问题已经成为一个重要的关注点，本文提出使用模型无关的方法解释机器学习预测，这种方法可以提供选择模型、解释和表示的灵活性，同时改善了调试、比较和用户接口等问题，同时回顾了最近引入的模型无关的解释方法 LIME 及其面临的主要挑战。

Jun, 2016

BELLA：基于本地线性近似的黑盒模型解释

该研究介绍了 BELLA，一种模型无关的后置方法，用于解释回归黑盒模型的个体预测，其以特征空间中的线性模型形式提供解释，并最大化线性模型适用的邻域大小，因此其解释准确，简单，一般且稳健。

May, 2023

本地与全局可解释性：一个计算复杂性角度

使用计算复杂性理论评估机器学习模型的局部和全局解释性，证明了局部和全局解释之间的对偶性以及某些全局解释形式的独特性，并比较了线性模型、决策树和神经网络在计算解释复杂度方面的差异。

Jun, 2024