Jul, 2024

机器学习中的表格数据增强：拥抱生成性人工智能的进展与前景

HTML
PDF
TL;DR本研究旨在解决高质量表格数据不足的问题，通过概述生成性人工智能在表格数据增强（TDA）中的应用，提供了全面的进展回顾和未来展望。论文提出了TDA的三个主要步骤，包括前处理、增强和后处理，并系统分析了当前方法，强调了在生成性人工智能时代的新机遇。研究结果显示，利用生成性AI可以显著提升表格数据的质量与多样性，进而推动机器学习任务的进步。
发现论文，激发创造
  • 深度神经网络与表格数据: 一份调查报告

    本文为研究人员和从业人员提供了深度学习方法在表格数据上的最新进展和应用，主要从数据变换、特殊网络架构、正则化模型和数据生成四个方面进行了探讨，并且在 5 个不同的实际数据集上，将传统机器学习方法与 11 种深度学习方法进行了实证比较，结果表明传统机器学习方法在有监督学习任务上仍优于基于深度学习的算法，提示相关研究有点停滞不前。

    Oct, 2021

  • 增强表格推理的现实数据增强框架

    该论文提出了一种实际的半自动数据增强框架，可以为半结构化表格推理等NLI任务构建训练数据。使用生成可应用于相似表格的假设模板生成假设并基于人类逻辑约束和前提重述创建有理的反事实表。该框架可以产生类人的表推理示例，可在有限监督的情况下提高训练数据的规模。

    Oct, 2022

  • 利用数据重塑以增强表格推理

    本研究提出一种半自动化框架，使用现有的表格数据重新解构，构建表格自然语言推理实例，以提高性能，分析零样本情况下在不同重新解构数据集类型的表现趋势。

    Nov, 2022

  • 深度学习中针对表格数据的数据增强策略重新审视

    本文提出了一种名为 $ extbf{M}$ask $ extbf{T}$oken $ extbf{R}$eplacement ($ exttt{MTR}$) 的数据增广方法，利用 Transformer 的特性对每个列嵌入进行数据增广来提高模型性能。通过在 13 个各异的公共数据集中运行受监督和自监督的学习场景，我们表明 $ exttt{MTR}$ 相对于现有数据增广方法具有竞争性能，并改善了模型性能。此外，还讨论了 $ exttt{MTR}$ 最有效的特定场景，并确定了其应用范围。

    May, 2023

  • CT-BERT：通过跨表格预训练学习更好的表格表示

    该研究论文探讨了针对表格数据的交叉表预训练的关键研究挑战，并提出了一种名为CT-BERT的新型框架，同时引入了对比学习和表格建模的目标，通过广泛的实证结果证明CT-BERT在监督和自监督设置下显著优于之前的方法。

    Jul, 2023

  • 面向表格数据学习的基础模型研究

    本文提出了Tabular Foundation Models (TabFMs)，通过在广泛的表格数据集上使用预训练的大型语言模型 (LLM) 并进行微调，实现了对表格数据具有深刻理解和普适能力的目标。TabFMs在指导性任务（如零样本和上下文推理）方面具有显著优势，并且在某些情况下甚至超越了著名但神秘的闭源LLMs，如GPT-4。此外，当仅有有限的数据进行微调时，我们的模型表现出了出色的效率和竞争性表现。最后，我们也探讨了TabFM的局限性和潜在机会，旨在激发和促进未来开发更强大的TabFMs的研究。

    Oct, 2023

  • 利用数据中心人工智能重塑合成表格数据生成：一项全面的基准评估

    利用数据中心人工智能技术生成代表性的合成数据，以改进传统的合成数据生成方法，并促进其在提高合成数据质量和效果方面的应用。

    Oct, 2023

  • 提升预训练语言模型在表格预测任务中的性能

    TP-BERTa是一种专门用于表格数据预测的预训练语言模型，通过将数值特征值转换为离散的高维标记，并使用内部特征注意方法将特征值与相应的特征名称相结合，TP-BERTa在典型的表格数据领域中在表格DNN中表现卓越，并与梯度提升决策树模型具备竞争力。

    Mar, 2024

  • FeatNavigator：对表格数据的自动特征增强

    数据中心的人工智能通过探索和整合关系表中的高质量特征用于机器学习模型，提高模型性能，并在五个公共数据集上优于最先进的解决方案达到40.1%的提升。

    Jun, 2024

  • LaTable: 大型表格模型的探索

    构建更好的零样本和少样本生成能力的生成式表格基础模型LaTable在有限样本的条件下，在实例内分布生成方面胜过基线，并在生成超出分布的数据集时表现更好。

    Jun, 2024