Jul, 2024
基于树混合MLP的GBDT和DNN的联合:进一步提升高效和有效的表格预测
Team up GBDTs and DNNs: Advancing Efficient and Effective Tabular
Prediction with Tree-hybrid MLPs
TL;DR该研究提出了一种新的框架,将Gradient Boosted Decision Trees (GBDTs)和Deep Neural Networks (DNNs)的优势结合起来,形成一种效率与GBDTs相当且具有竞争力的DNN算法,以解决在特定表格数据集上选择有效模型的难题。通过组合关键组件,如GBDT特征筛选、DNN架构修剪和反向传播优化器,共同训练一个随机初始化的MLP模型,实验证明该方法在具有高度调优的DNN和GBDT主导的表格基准上表现出竞争力,并且具有紧凑的模型存储和显著降低的训练时间。