借助基于模型的树作为可解释的替代模型进行模型蒸馏

Oct, 2023

借助基于模型的树作为可解释的替代模型进行模型蒸馏

Leveraging Model-based Trees as Interpretable Surrogate Models for Model Distillation

Julia Herbinger, Susanne Dandl, Fiona K. Ewald, Sofia Loibl, Giuseppe Casalicchio

TL;DR使用模型树作为替代模型，将特征空间通过决策规则划分为可解释的区域，然后利用基于加性主效应的可解释模型来近似黑盒模型的行为，平衡可解释性和性能，对比了四种模型树算法，最后提供了用户特定的推荐概述。

Abstract

surrogate models play a crucial role in retrospectively interpreting complex and powerful black box machine learning models via model distillation. This paper focuses on using model-based trees as →

surrogate models model-based trees interpretable regions additive main effects interaction effects

发现论文，激发创造

通过模型提取方法解释黑匣子模型

为了解释黑盒模型，本文提出使用决策树对其进行全局解释，并采用新的决策树提取算法避免过拟合，评估表明该方法正确率更高且可解释性更强。

May, 2017

基于监督分区的局部可解释模型和效果 (LIME-SUP)

本文提出了基于树状结构的局部解释机器学习模型方法 LIME-SUP，相较于基于聚类 KLIME 方法，LIME-SUP 具有更好的解释性，并且在实证研究中表现更优。

Jun, 2018

基于树模型和替代模型的公平特征重要性评分

我们提出了一种公平特征重要性评分，用于解释决策树等可解释的黑盒机器学习模型对公平性或偏见的贡献。通过模拟和真实示例，我们证明了该方法对树形集成和其他机器学习系统的树形替代物提供了有效的解释性。

Oct, 2023

概念树：更可解释的代理决策树的高级变量表示

我们提出了一种模型无关的可解释替代方案，用于全局和局部解释黑盒分类器。该替代方案使用相关系数自动发现变量的直观分组，并将其嵌入到替代决策树中，以提高其可理解性。在宏观经济数据库上的实验结果表明，在保持替代模型准确性和保真度的同时，该方案提高了人类可解释性。

Jun, 2019

通过单棵树逼近解释模型

提出了一种用于构建决策树的方法，可以近似复杂机器学习模型的性能，可用于解释和简化随机森林（RFs）和其他模型的预测模式。在医学问卷中，树形结构特别有意义，因为它使问卷自适应地缩短，减轻回答负担。研究了分裂的渐近行为，并引入了一种改进的分裂方法，旨在稳定树形结构。经实验证明，我们的方法可以同时实现高近似性和稳定性。

Oct, 2016

树形集成模型的可解释性

该研究提出一种后处理方法通过使用 EM 算法和简化模型来提高树模型的可解释性，并进行了人工合成实验以证明该方法的可行性。

Jun, 2016

透過遞迴分割進行全球模型解釋

本文提出了一种能够全局解释黑匣子机器学习模型的简单而有效的方法，即使用紧凑的二叉树 “解释树” 显式地表示隐含在黑匣子机器学习模型中的最重要的决策规则，而这个树是从贡献矩阵中学习得来的，通过递归地最大化区分空间之间分裂变量的平均贡献差来划分输入变量空间。我们通过多任务的机器学习模型诊断实验证明了我们方法的有效性，同时也便于人类理解机器学习模型。

Feb, 2018

使树集成模型可解释性：贝叶斯模型选择方法

本研究提出了一种通过模型简化方法（树模型的选择问题），使得复杂的树模型具有可解释性的算法，该算法可以保证预测性能的同时，将复杂的树模型逼近成最简单的表现形式

Jun, 2016

预测的政策树：机器学习中可解释和自适应的模型选择

通过开发一种树基的方法学，Optimal Predictive-Policy Trees (OP2T)，我们提出了一种规定性方法来解决机器学习模型选择中的关键问题，从而产生可解释的适应性策略以选择预测模型或集成，并具有参数化选项拒绝进行预测。

May, 2024

可解释的局部树代理策略

本论文提出一种构建可预测的决策树代替神经网络的方法，决策树易于人类理解，能够量化预测未来行为，从而提高决策的可信度和使用范围。

Sep, 2021