学习最优分类树:强大的最大流量公式
该论文提出了一种基于流的 MIO 表达式,以用于学习最优二叉分类决策树,并可容纳相应的边际约束,从而使决策树设计变得透明和公平。作者通过实验证明,其相较同类现有 MIO 方法,在性能和计算速度方面有明显提升。
Mar, 2021
本文提出了一种新的基于支持向量机和 1 - 范数分多元决策树(ODT)训练的混合整数规划(MIP)公式,利用线性规划(LP)数据选择方法选择数据样本,实现了对大数据集的有效训练,并在包含 245,000 个样本的数据集上验证了该方法优于现有的启发式方法和其他基于 MIP 的技术的效果。
Nov, 2020
本研究提出了一个通用框架并构建了一种新型的最优逻辑树模型,该模型采用线性分段逼近法处理逻辑损失,并与 L1 正则项耦合,证明其能够诱导出具有更好可解释性和竞争性推广能力的树状模型,相对于现有的 MIP-based 方法。
Jun, 2023
全球优化分类树方法通过建立新的混合整数规划方法,在多个线性和非线性指标的综合下,提供了优于传统方法的解析度和普适性。在延展性和实用性测试中,该方法在小型和中型数据集上相较于随机森林取得了显著的精度提升。
Jan, 2024
本文提出了一种混合整数规划的方法来构建特定大小的最优决策树,采用特殊结构的分类特征,考虑每个节点上基于特征子集的组合决策,并通过阈值处理处理数值特征,证明了在中等规模的训练集下,采用小型决策树可获得很高的准确率,我们使用现代求解器解决所提出的优化问题。
Dec, 2016
本研究提出了一种基于动态规划和搜索的学习算法来实现最优决策树,这种算法支持对树的深度和节点数量设置限制,并在实验证明使用我们的算法只需要很短的时间就可以处理具有成千上万个实例的数据集,从而极大地提高了最优决策树的实用性。
Jul, 2020
本文提出了一个强大的混合整数编程(MIP)框架,可以用于处理高维分段线性函数,从而建立与训练好的神经网络相匹配的数学模型,并通过这些数学模型来解决图像分类的鲁棒性验证和机器学习模型的决策问题。我们的方法比文献中其他方法更加有效,并且在图像分类网络的验证任务中取得了优异的结果。
Nov, 2018
基于混合整数规划技术,我们提出了一种学习鲁棒分类树的方法,通过问题转化和约束生成的解决方法,在公共可用数据集上展示了最差情况准确率提高了 12.48%,平均情况准确率提高了 4.85%。
Oct, 2023
本文提出了一种基于理论模型的枝界算法,其用于选择分支变量的方法是对 MIP 问题进行简化后,对选择不同变量可以得到对偶理论的提升(LP gains)的解析式进行计算,并提出了该方法在实验中的有效性。
Nov, 2015
该研究介绍了一种新的决策集中学习方法,可以优化预测模型,支持将问题编码为混合整数线性规划,并使用割平面算法求解。实验结果表明,该方法在多个实际领域中的性能优于现有方法。
Jul, 2019