提出了一种基于大型语言模型（LLMs）的新的表格学习框架，称为优化列特征生成器与决策树推理（OCTree）。使用 LLMs 的推理能力，通过不手动指定搜索空间并提供基于语言的推理信息，将过去的实验作为反馈来改进迭代的规则，从而找到好的特征生成规则。实证结果表明，这一简单框架在各种表格基准上始终提高了各种预测模型的性能，优于竞争的自动特征工程方法。

Jun, 2024

本研究提出了一种基于动态规划和搜索的学习算法来实现最优决策树，这种算法支持对树的深度和节点数量设置限制，并在实验证明使用我们的算法只需要很短的时间就可以处理具有成千上万个实例的数据集，从而极大地提高了最优决策树的实用性。

Jul, 2020

该论文提出了一种基于流的 MIO 表达式，以用于学习最优二叉分类决策树，并可容纳相应的边际约束，从而使决策树设计变得透明和公平。作者通过实验证明，其相较同类现有 MIO 方法，在性能和计算速度方面有明显提升。

Mar, 2021

本文提出了一种混合整数规划的方法来构建特定大小的最优决策树，采用特殊结构的分类特征，考虑每个节点上基于特征子集的组合决策，并通过阈值处理处理数值特征，证明了在中等规模的训练集下，采用小型决策树可获得很高的准确率，我们使用现代求解器解决所提出的优化问题。

Dec, 2016

通过提出一种决策树优化框架，解决了当前领域中两个开放性问题：不平衡数据处理和连续变量完全优化。此外，我们还介绍了一种可扩展的算法，可以在存在连续变量的情况下产生可证明的最优结果，并相对于现有技术将决策树构建速度提高了数个数量级。

Jun, 2020

本文提出使用基于规则的特征（也称为规则集成）的广义线性模型，用于回归和概率分类，通过列生成算法，优化规则集合的复杂度和预测准确性的平衡。在逻辑回归和线性回归的实验中，与现有的规则集成算法相比，所提出的方法可以获得更好的准确性 - 复杂度平衡，一端可以与少量簇比较。

Jun, 2019

本文提出一种新颖的演化算法，结合可行解空间的探索和局部搜索，用于归纳分类树，以达到具有一般化能力的结构，其表现与最先进的方法相当，并适用于包含成千上万数据点的数据集。

May, 2023

这篇论文介绍了第一种针对二进制变量进行最佳决策树生成的实用算法，该算法结合了分析界限和数据结构等现代技术，在可扩展性、速度和最优性方面具有明显优势。

Apr, 2019

本文提出了一种连续优化方法来构建精简的最佳分类树，基于斜裁剪，并旨在在整个树中使用较少的预测变量进行剪枝。该方法模拟了本地和全局稀疏性，证明了其对提高分类精度具有实用性。

Feb, 2020

该论文提出了一种算法，该算法能够基于全局目标同时优化决策树的所有级别的分裂函数和叶参数，使用随机梯度下降进行优化，实验结果表明，该算法相比贪心算法在分类任务的表现优秀。

Nov, 2015