树形空间原型：再探树集成的可解释性

NIPSNov, 2016

树形空间原型：再探树集成的可解释性

Tree Space Prototypes: Another Look at Making Tree Ensembles Interpretable

Sarah Tan, Matvey Soloviev, Giles Hooker, Martin T. Wells

TL;DR提出了通过表现每个类别的代表点 - 原型来解释树模型集合分类器的方法，并通过应用新的距离和自适应原型选择方法，在随机森林和梯度提升树上演示了原型的可行性，其在人类用户的研究中表现良好，并为决策树模型的解释提供了可行的替代方案。

Abstract

Ensembles of decision trees perform well on many problems, but are not interpretable. In contrast to existing approaches in interpretability that focus on explaining relationships between features and predictions, we propose an alternative approach to interpret tree ensemble classifier

decision trees interpretable models prototypes gradient boosted trees user study

发现论文，激发创造

神经原型树用于可解释的细粒度图像识别

本研究提出了神经原型树（ProtoTree）方法，将原型学习与决策树相结合，从而通过设计在全局上产生可解释的模型。此外， ProtoTree 可以通过在树中勾勒一个决策路径来在本地解释单个预测并通过集成方法、修剪和二值化调整准确性与可解释性的权衡。

Dec, 2020

树形集成模型的可解释性

该研究提出一种后处理方法通过使用 EM 算法和简化模型来提高树模型的可解释性，并进行了人工合成实验以证明该方法的可行性。

Jun, 2016

使树集成模型可解释性：贝叶斯模型选择方法

本研究提出了一种通过模型简化方法（树模型的选择问题），使得复杂的树模型具有可解释性的算法，该算法可以保证预测性能的同时，将复杂的树模型逼近成最简单的表现形式

Jun, 2016

自适应树集合的原型解释器（A-PETE）

使用自适应原型解释树集成算法（A-PETE），通过专用距离度量和改进的 k-medoid 方法，自动选择原型，以解释机器学习模型，并提供足够数量的原型用于解释随机森林分类器。

May, 2024

概率回归树集成

该研究使用基于树的集成方法，如随机森林、梯度提升树和贝叶斯增加回归树，在许多应用和研究中成功地用于回归问题。本文研究了概率回归树的集成版本，通过将每个观测分配到相对应的概率分布区域，为目标函数提供平滑逼近。我们证明了所考虑的概率回归树的集成版本是一致的，并在实验中研究了它们的偏差 - 方差折衷，并与最先进的性能预测方法进行比较。

Jun, 2024

重生树集成

本研究旨在解决决策树集成在多领域应用时造成的可解释性下降，提出了 Born-Again 树集成的方法，通过动态规划算法生成出在实际数据集上表现优异的 Born-Again 树模型，以在不牺牲分类器性能的前提下获得更高的可解释性。

Mar, 2020

树集成分类器的概念视角

本文提出了一种基于格论的代数方法来解释树集成分类器中随机森林的分类性能，并展示了该方法在提供全局解释方面的能力。

Feb, 2023

计算最优树集合

提出了两种新算法以及相应的下限，适用于树集合，展示了决策树和树集合分类训练数据集所需的切割数相比，随着树的数量增加，集合所需的切割数可能会指数级下降。

Jun, 2023

灌木丛集用于在线分类

本文提出了一种名为 “Shrub Ensembles” 的新型在线分类集成算法，它使用随机近端梯度下降法训练小到中等大小的决策树，并在小窗口上处理数据以节省内存。实验表明，该方法在资源有限的情况下仍然表现出色。

Dec, 2021

用 inTrees 解释树集合

本文提供 inTrees 框架，通过提取、衡量、修剪和选择树集合中的规则，并计算频繁的变量交互来提高树集合的可解释性。inTrees 框架可以应用于分类和回归问题，并适用于多种树集合类型，例如随机森林、正则化随机森林和 Boosted Trees。

Aug, 2014