动态回归树是一种自动回归和分类的有吸引力的选择，可用于在线应用程序设置中具有复杂响应曲面的情况。本文提出了一种序列树模型及其粒子学习算法，这种算法允许对树状态进行高效的在线后验过滤。除此之外，本文还探讨了常数和线性均值函数以及分类问题的多项式叶子等问题，并提出了默认的先验规范。本文还详细说明了每个应用程序的具体方法。最后，实验证明，我们的方法在成本的一小部分下能够提供比常用方法更好的结果。

Dec, 2009

研究一种学习针对回归问题的可解释表示的方法，将特征表示为由神经网络中常用的激活函数和其他基本函数组成的多类型表达树的网络。通过梯度下降来训练可微分特征，并利用特征在线性模型中的性能来加权每个表示子组件的变化率。该方法可以产生比梯度提升更小、在 100 个开源回归问题上的平均测试得分更高的表示。

Jul, 2018

该研究使用基于树的集成方法，如随机森林、梯度提升树和贝叶斯增加回归树，在许多应用和研究中成功地用于回归问题。本文研究了概率回归树的集成版本，通过将每个观测分配到相对应的概率分布区域，为目标函数提供平滑逼近。我们证明了所考虑的概率回归树的集成版本是一致的，并在实验中研究了它们的偏差 - 方差折衷，并与最先进的性能预测方法进行比较。

Jun, 2024

本文提出了一种动态编程方法来构建确切的最优稀疏回归树，并基于一维 k-Means 聚类算法提出了新的下界，我们能够在几秒钟内找到具有挑战性的数据集的最优稀疏树。

Nov, 2022

通过在对应的局部区域中基于局部学习模型的加权平均构建全局连续和可微模型的一般框架，我们在处理具有不同密度或不同局部区域功能值范围的数据方面取得了竞争优势，并且通过在局部模型中混合核脊回归和多项式回归项并连续地拼接它们，我们在理论上实现了更快的统计收敛性和在各种实际设置中改进的性能。

Aug, 2023

本文介绍一种新的决策树分类算法，该算法采用连续优化，每个决策节点采取随机决策，实现了较好的性能效果。

Oct, 2021

本研究介绍了三种新的回归树算法，它们利用了线性预测器作为处理方法，并使用卡方检验来探测残余模式和拟合不足。同时，算法还使用泊松回归来进行比例风险建模。利用引入的算法可以识别出作用显著变量的重要性，同时还可以构造区间以评估每个节点的治疗效果。

Oct, 2014

使用稀疏感应的 soft decision trees 取代传统的决策树集成方法，可以克服它们的光滑性差和受维度灾难的困扰。在 Bayesian additive regression trees 框架下实现该方法，理论上得到强大的支持，并在基准数据集上表现出良好的性能。

Jul, 2017

本研究探讨了使用非线性决策树模型学习具有被审查或区间值输出数据的回归函数的问题，提出了一种优化边界驱动的判别函数的树学习算法，并在多个数据集上进行了实证研究，证明其具有最先进的速度和预测精度。

Oct, 2017

本文研究了 CART 方法构建的回归树的统计特性，发现训练误差由每个节点中的最优决策树与响应数据的 Pearson 相关性控制，并通过构建先验分布和解决非线性优化问题来限制其范围，利用训练误差和 Pearson 相关性之间的联系来展示当深度随样本大小的对数尺度变化时，使用 cost-complexity pruning 的 CART 方法可以实现最佳复杂度 / 拟合度权衡，同时，数据相关量可以适应回归模型的维度和潜在结构，控制预测误差的收敛速度。

Jun, 2020