Jul, 2024

更好的默认选择：对表格数据进行强大的预调MLP和增强树

HTML
PDF
TL;DR通过引入RealMLP（改进的多层感知器）和改进的默认参数，本研究解决了在表格数据的分类和回归中，由于超参数调优，深度学习方法通常比梯度提升决策树（GBDTs）更慢而备受挑战的问题。研究表明，RealMLP相比其他神经网络有更好的时间-准确性折衷，并且与GBDTs具有竞争力。此外，在中等规模的表格数据集（1K-500K样本）上，结合改进的默认参数的RealMLP和GBDTs可以在无需超参数调优的情况下取得出色的结果。
发现论文，激发创造
  • 梯度提升决策树算法的基准测试和优化

    本文研究了三个软件Gradient Boosting Decision Trees (GBDTs) packages: XGBoost, LightGBM和Catboost的GPU加速性能以及在超参数优化方面的比较，并注意到GBDTs的许多超参数需手动调整或自动优化，以达到最佳预测能力。

    Sep, 2018

  • 利用梯度提升决策树增强Transformers在NLI微调中的效能

    本文探讨了采用Gradient Boosted Decision Trees作为分类器的自然语言推断（NLI）任务方法，介绍了FreeGBDT方法，该方法可以在不增加神经网络的计算量的情况下，提高对特征的分类精度，实验证明FreeGBDT对于多个NLI数据集的RoBERTa-large基线模型都有稳定的提升。

    May, 2021

  • 重访针对表格数据的深度学习模型

    本研究对表格数据的深度学习架构进行概述，提出了两种简单而强大的基准深度架构，并发现Transformer架构对于表格数据的性能最优。

    Jun, 2021

  • 树状模型在表格数据上为何仍然优于深度学习？

    通过与传统树模型如XGBoost和随机森林的对比，研究发现，对于中等大小数据集（约10K个样本），树模型仍然是当前在表格数据上的最佳选择；研究还提出了神经网络在表格数据上建模的若干挑战，并为后续研究提供基准测试数据和计算资源。

    Jul, 2022

  • 神经网络何时在表格数据上优于增强树？

    该研究分析了在标签数据上使用神经网络（NN）和梯度增强决策树（GBDT）的性能差异，发现针对不同数据集，NN和GBDT的表现各有千秋，需要根据数据集来选择合适的算法并进行超参数调优。

    May, 2023

  • 在d≫n时使用辅助知识图谱实现表格深度学习

    我们提出了PLATO方法，该方法通过使用描述输入特征的辅助知识图来规范多层感知器（MLP），在d >> n的表格数据上实现了强大的性能

    Jun, 2023

  • 表格数据：关注力是您所需的全部吗？

    通过对大规模的实证研究，本文发现神经网络在结构化表格数据上与决策树具有竞争力，而基于变压器的架构在表格数据集上并不能超过传统MLP架构的简化版本。这些发现有助于研究和实践社区在未来的表格数据应用中做出明智的选择。

    Feb, 2024

  • 深度学习在表格数据上的研究

    通过一个全面的基准测试，本文研究了深度表格方法和基于树的方法在各种任务类型、大小分布和领域中的性能排名以及影响深度表格方法成功的关键因素，并提取了对预测准确性起决定性作用的元特征。这些研究将进一步促进表格数据的研究。

    Jul, 2024

  • 基于树混合MLP的GBDT和DNN的联合：进一步提升高效和有效的表格预测

    该研究提出了一种新的框架，将Gradient Boosted Decision Trees (GBDTs)和Deep Neural Networks (DNNs)的优势结合起来，形成一种效率与GBDTs相当且具有竞争力的DNN算法，以解决在特定表格数据集上选择有效模型的难题。通过组合关键组件，如GBDT特征筛选、DNN架构修剪和反向传播优化器，共同训练一个随机初始化的MLP模型，实验证明该方法在具有高度调优的DNN和GBDT主导的表格基准上表现出竞争力，并且具有紧凑的模型存储和显著降低的训练时间。

    Jul, 2024

  • 针对多样化表格数据集的机器学习和深度学习综合基准

    本研究针对深度学习在表格数据集上的表现不足这一问题进行了深入分析，提出了一套全面的基准，评估了111个数据集与20种不同模型的性能。研究发现，通过对深度学习模型表现优越的数据集进行充分分析，可以有效预测这些模型在特定情况下的表现，最终实现了86.1%的准确率。

    Aug, 2024