透過遞迴分割進行全球模型解釋

Feb, 2018

Global Model Interpretation via Recursive Partitioning

Chengliang Yang, Anand Rangarajan, Sanjay Ranka

TL;DR本文提出了一种能够全局解释黑匣子机器学习模型的简单而有效的方法，即使用紧凑的二叉树 “解释树” 显式地表示隐含在黑匣子机器学习模型中的最重要的决策规则，而这个树是从贡献矩阵中学习得来的，通过递归地最大化区分空间之间分裂变量的平均贡献差来划分输入变量空间。我们通过多任务的机器学习模型诊断实验证明了我们方法的有效性，同时也便于人类理解机器学习模型。

Abstract

In this work, we propose a simple but effective method to interpret black-box machine learning models globally. That is, we use a compact binary tree, the interpretation tree, to explicitly represent the most imp

machine learning interpretation tree black-box models decision rules input variables

发现论文，激发创造

通过模型提取方法解释黑匣子模型

为了解释黑盒模型，本文提出使用决策树对其进行全局解释，并采用新的决策树提取算法避免过拟合，评估表明该方法正确率更高且可解释性更强。

May, 2017

学习黑盒外：可解释模型的追求

该论文提出了一种使用 Meijer G 函数的黑盒函数连续全局解释算法来解决机器学习模型可解释性问题，通过实验结果证明该算法可以高度准确地表示特征和特征交互的相对重要性。

Nov, 2020

通过特征空间分割窥视深度神经网络

本文提出了一种通过构建树形结构，实现对复杂模型进行分级分区并揭示其迭代拒绝可能的类标签的过程，以达到在不影响模型准确性的前提下实现模型解释性的方法。

Nov, 2016

借助基于模型的树作为可解释的替代模型进行模型蒸馏

使用模型树作为替代模型，将特征空间通过决策规则划分为可解释的区域，然后利用基于加性主效应的可解释模型来近似黑盒模型的行为，平衡可解释性和性能，对比了四种模型树算法，最后提供了用户特定的推荐概述。

Oct, 2023

树状可解释人工智能：从局部解释到全局理解

通过运用博弈论、局部特征交互作用效应和全局模型结构，我们实现了对基于树的机器学习模型的高可解释性，应用于三个医疗机器学习问题，在透露模型全局结构的同时保持其基本特征，识别出美国人口中高强度但低频率的非线性死亡风险因素，突显具有共同危险特征的明显人口亚组，识别出慢性肾脏疾病危险因素之间的非线性交互作用效应，并监测在医院部署的机器学习模型（Identifying factors leading to model's performance decay over time）

May, 2019

区域树正则化用于黑盒模型的可解释性

本文介绍了一种名为 “地区树规则化” 的方法，它可以在维持准确率的同时让神经网络更具有可解释性，该方法通过预先定义输入空间中特定区域所需的决策逻辑，鼓励深层模型分别被数个分离的决策树所逼近，本方法在多个数据集上都比只训练每个区域的决策树更能提高准确预测，同时比其他神经网络规则化方案更简单，并不会破坏预测能力；两个医疗案例证明了本方法可以通过对神经网络的审查来提高理解。

Aug, 2019

利用原始功能解释黑盒子的符号元模型

本文提出了一种使用 Kolmogorov 超级定理和一种改进型遗传编程方法的新方法来找到可解释元模型，用于解释黑盒机器学习模型。实验结果表明，该方法优于其他方法。

Feb, 2023

模型提取实现可解释性

这篇论文提出一种名为模型抽取的方法，通过构建一个可解释程度更高的模型来近似黑箱模型，从而理解和调试机器学习模型在各种数据集上训练的结果，并在经典强化学习问题中学习控制策略。

Jun, 2017

利用特征贡献方法解释随机森林分类模型

本研究提出了一种计算随机森林分类模型的特征贡献的方法，可以确定每个变量对单个实例的模型预测的影响，并通过分析训练数据集的特征贡献来确定最显着的变量和它们对个别类别预测的贡献模式，并阐述其在 UCI 基准数据集上的应用。

Dec, 2013

通过通信循环学习决策树

本研究提出了一种不妥协预测准确性的情况下融合解释性的决策制定算法，通过学习迭代二进制子决策的方法，在决策过程中引入了稀疏性和透明度。该模型的关键点在于利用神经网络和消息传递的方式相互学习，来建立决策树，同时将语意意义通过二进制属性的形式赋给每个决策，使其对用户更加精练、语义化和相关。在三个基准图像分类数据集上，包括大规模 ImageNet 数据集，该模型生成了人类可解释的二进制决策序列，解释了网络的预测情况，同时保持了最先进的准确性。

Feb, 2019