Jul, 2020

MurTree：使用动态规划和搜索实现的最优分类树

PDF
TL;DR本研究提出了一种基于动态规划和搜索的学习算法来实现最优决策树，这种算法支持对树的深度和节点数量设置限制，并在实验证明使用我们的算法只需要很短的时间就可以处理具有成千上万个实例的数据集，从而极大地提高了最优决策树的实用性。
decision tree learningoptimal classification tree algorithmsdynamic programmingsearchalgorithm
发现论文，激发创造
  • 强优化分类树

    该论文提出了一种基于流的 MIO 表达式，以用于学习最优二叉分类决策树，并可容纳相应的边际约束，从而使决策树设计变得透明和公平。作者通过实验证明，其相较同类现有 MIO 方法，在性能和计算速度方面有明显提升。

    Mar, 2021

  • 用动态规划发现决策树的解释性与性能的最优解

    为了找到最佳的决策树，本文提出了一种新的马尔可夫决策问题 (MDP) 的公式，允许用户在计算一个动态规划的同时选择最适合自身需求的决策树

    Sep, 2023

  • 最优稀疏决策树

    这篇论文介绍了第一种针对二进制变量进行最佳决策树生成的实用算法，该算法结合了分析界限和数据结构等现代技术，在可扩展性、速度和最优性方面具有明显优势。

    Apr, 2019

  • 分支：用于优化决策树的快速动态规划和分支限界算法

    Branches 算法结合了动态规划和分支界限方法，提供了出色的速度和稀疏性解决方案，通过理论分析和实证评估验证了比现有方法更低复杂性以及始终产生最优的决策树的优势。

    Jun, 2024

  • 最优随机分类树

    本文介绍一种新的决策树分类算法，该算法采用连续优化，每个决策节点采取随机决策，实现了较好的性能效果。

    Oct, 2021

  • 通用和可扩展的最优稀疏决策树

    通过提出一种决策树优化框架，解决了当前领域中两个开放性问题：不平衡数据处理和连续变量完全优化。此外，我们还介绍了一种可扩展的算法，可以在存在连续变量的情况下产生可证明的最优结果，并相对于现有技术将决策树构建速度提高了数个数量级。

    Jun, 2020

  • 一种优化分类树学习的新型记忆策略

    本文提出一种新颖的演化算法，结合可行解空间的探索和局部搜索，用于归纳分类树，以达到具有一般化能力的结构，其表现与最先进的方法相当，并适用于包含成千上万数据点的数据集。

    May, 2023

  • 重访基于列生成的数学启发式方法学习分类树

    决策树是一种高度可解释的模型，用于解决机器学习中的分类问题。本文提出了一种基于列生成的启发式方法来学习决策树，在多类别分类实例中减少子问题数量，并改进了数据依赖约束和线性规划松弛解的分离模型，以提高可扩展性。

    Aug, 2023

  • 可分离目标的最优决策树：推动动态规划的极限

    本研究探索了决策树中子树优化的分离可行性条件及其建立的动态规划框架对于不同应用各目标和约束的普适性。实验证明该框架在可扩展性上优于通用求解器。

    May, 2023

  • 基于整数规划的最优广义决策树

    本文提出了一种混合整数规划的方法来构建特定大小的最优决策树，采用特殊结构的分类特征，考虑每个节点上基于特征子集的组合决策，并通过阈值处理处理数值特征，证明了在中等规模的训练集下，采用小型决策树可获得很高的准确率，我们使用现代求解器解决所提出的优化问题。

    Dec, 2016