本论文研究在神经网络中，如何利用 13 种正则化技术来优化多层感知机（MLP）在 40 个表格数据集上的性能，并证明了良好正则化的 MLP 可以明显优于最新的神经网络架构和传统机器学习方法。

Jun, 2021

利用大型语言模型（LLMs）解决数据科学中与表格数据相关的预测任务的研究，通过创建一个包含注解指令的综合数据集来对 LLM 进行大规模训练，研究应用训练好的模型在零样本预测、少样本预测和上下文学习场景中的实际应用，并通过实验证明该方法在表格智能方面相较于现有基准有显著改进。

Mar, 2024

该研究综合分析了在 69 个现实世界的标签分类数据集上，使用各种主动学习算法在深度神经网络上的表现，结果表明，基于经典边际采样技术的算法在各种实验设置下都能匹配或超越其他算法，甚至包括当前的最佳算法。

Oct, 2022

通过一个全面的基准测试，本文研究了深度表格方法和基于树的方法在各种任务类型、大小分布和领域中的性能排名以及影响深度表格方法成功的关键因素，并提取了对预测准确性起决定性作用的元特征。这些研究将进一步促进表格数据的研究。

Jul, 2024

提出了一种新颖的上下文学习框架 FealtLLM，利用大型语言模型作为特征工程师，生成适合表格预测的优化输入数据集，在推断阶段使用生成的特征和简单的下游机器学习模型 (如线性回归) 来推断分类的可能性，从而实现高性能的小样本学习。FeatLLM 框架只使用简单的预测模型和推断时发现的特征，相较于现有的基于大型语言模型的方法，FeatLLM 可以消除每个样本都需要查询大型语言模型的需求和克服提示大小的限制，并且仅需要对大型语言模型的 API 进行访问。在多个来自不同领域的表格数据集上的实验证明，FeatLLM 生成高质量的规则，明显 (平均达到 10%) 优于 TabLLM 和 STUNT 等替代方法。

Apr, 2024

AutoGluon-Tabular 是一个开源的 AutoML 框架，仅需一行 Python 代码即可训练基于未经处理的表格数据集（如 CSV 文件）的高精度机器学习模型。与现有的 AutoML 框架主要侧重于模型 / 超参数选择不同，AutoGluon-Tabular 通过组合多个模型并堆叠它们来成功地实现了目标。多层组合多模型的实验证明，它比寻找最佳模型更能更好地利用分配的训练时间。我们还对公共和商业 AutoML 平台进行了广泛的评估，包括 TPOT，H2O，AutoWEKA，auto-sklearn，AutoGluon 和 Google AutoML Tables。在 Kaggle 和 OpenML AutoML Benchmark 的 50 个分类和回归任务套件上进行的测试表明，AutoGluon 更快、更稳定，更准确。我们发现 AutoGluon 甚至经常超过所有竞争对手的最佳组合。在两个热门的 Kaggle 比赛中，AutoGluon 仅在原始数据上进行了 4 小时的训练，就胜过了 99% 的参赛数据科学家。

Mar, 2020

本文为研究人员和从业人员提供了深度学习方法在表格数据上的最新进展和应用，主要从数据变换、特殊网络架构、正则化模型和数据生成四个方面进行了探讨，并且在 5 个不同的实际数据集上，将传统机器学习方法与 11 种深度学习方法进行了实证比较，结果表明传统机器学习方法在有监督学习任务上仍优于基于深度学习的算法，提示相关研究有点停滞不前。

Oct, 2021

通过将表格数据序列化为自然语言字符串和分类问题简述作为输入，使用大型语言模型进行零样本和小样本分类数据的研究，并评估了几种序列化方法，发现这种方法在多个基准数据集上优于以前的深度学习分类方法。

Oct, 2022

本文探讨了在表格数据情景下，如何利用自训练和课程伪标记方法来应对半监督和自监督学习中存在的大量标记数据需求与非标记数据的局限性，同时提出了一种基于伪标记生成的置信度得分的新方法，通过该方法可以在高密度区域获得更可靠的伪标签。

Feb, 2023

TP-BERTa 是一种专门用于表格数据预测的预训练语言模型，通过将数值特征值转换为离散的高维标记，并使用内部特征注意方法将特征值与相应的特征名称相结合，TP-BERTa 在典型的表格数据领域中在表格 DNN 中表现卓越，并与梯度提升决策树模型具备竞争力。

Mar, 2024