重生树集成

Mar, 2020

Born-Again Tree Ensembles

Thibaut Vidal, Toni Pacheco, Maximilian Schiffer

TL;DR本研究旨在解决决策树集成在多领域应用时造成的可解释性下降，提出了Born-Again树集成的方法，通过动态规划算法生成出在实际数据集上表现优异的Born-Again树模型，以在不牺牲分类器性能的前提下获得更高的可解释性。

Abstract

The use of machine learning algorithms in finance, medicine, and criminal justice can deeply impact human lives. As a consequence, research into interpretable machine learning has rapidly grown in an attempt to b

发现论文，激发创造

用inTrees解释树集合

本文提供inTrees框架，通过提取、衡量、修剪和选择树集合中的规则，并计算频繁的变量交互来提高树集合的可解释性。inTrees框架可以应用于分类和回归问题，并适用于多种树集合类型，例如随机森林、正则化随机森林和Boosted Trees。

Aug, 2014

树形空间原型：再探树集成的可解释性

提出了通过表现每个类别的代表点-原型来解释树模型集合分类器的方法，并通过应用新的距离和自适应原型选择方法，在随机森林和梯度提升树上演示了原型的可行性，其在人类用户的研究中表现良好，并为决策树模型的解释提供了可行的替代方案。

Nov, 2016

树集成层：可分性遇上条件计算

本研究旨在将不同iable decision trees融合到神经网络中，以提高训练效率和CNNs测试准确率的性能。通过引入新型的稀疏激活函数和专门化算法实现条件计算，证明本文方法与现有方法相比，训练速度提高了十倍以上，参数个数降低到现有梯度增强树的20倍以下，并在CIFAR、MNIST和Fashion MNIST数据集中得出证据。

Feb, 2020

MurTree：使用动态规划和搜索实现的最优分类树

本研究提出了一种基于动态规划和搜索的学习算法来实现最优决策树，这种算法支持对树的深度和节点数量设置限制，并在实验证明使用我们的算法只需要很短的时间就可以处理具有成千上万个实例的数据集，从而极大地提高了最优决策树的实用性。

Jul, 2020

灌木丛集用于在线分类

本文提出了一种名为“Shrub Ensembles”的新型在线分类集成算法，它使用随机近端梯度下降法训练小到中等大小的决策树，并在小窗口上处理数据以节省内存。实验表明，该方法在资源有限的情况下仍然表现出色。

Dec, 2021

树集成分类器的概念视角

本文提出了一种基于格论的代数方法来解释树集成分类器中随机森林的分类性能，并展示了该方法在提供全局解释方面的能力。

Feb, 2023

计算最优树集合

提出了两种新算法以及相应的下限，适用于树集合，展示了决策树和树集合分类训练数据集所需的切割数相比，随着树的数量增加，集合所需的切割数可能会指数级下降。