Jan, 2023

利用预训练语言模型实现表格到文本的生成：一种表格结构理解和文本构思的方法

PDF
TL;DR本文提出了一种名为 TASD 的表结构理解和文本判断方法，采用三层多头自注意力网络实现了以预训练语言模型为基础的文本生成模型，并采用多遍解码器框架增强了表格描述的生成能力，实验证明该方法可以为不同类型的表格生成准确流畅的文本描述。
neural table-to-textlarge-scale pretrained language modelsstructured tabletext generation modelmulti-pass decoder
发现论文，激发创造
  • 填补鸿沟：利用大型语言模型解读表格数据

    大型语言模型在表格问答任务中的首次应用以增强模型对表格结构和内容的理解。

    Aug, 2023

  • 具有结构感知等变学习的强健 (可控) 表格到文本生成

    提出一种基于自我注意力机制的等变学习框架，通过在单元格层面有效表达表格内容之间的关系，并保证模型对内容不变的结构变换具有鲁棒性以提高 table-to-text 生成模型在 ToTTo 和 HiTab 数据集上的性能。

    May, 2022

  • 基于结构化数据的订单规划神经文本生成

    研究人员提出了一种基于训练有素的神经网络的文本生成模型，以便从结构化数据中（例如表格）生成自然文本，该模型能够捕捉不同字段之间的关系，以生成更流畅的文本。

    Sep, 2017

  • 使用 TabT5 进行表格到文本生成和预训练

    TABT5 是编码器 - 解码器模型，可以生成基于表格和文本输入的自然语言文本，结合表格特定的嵌入和预训练，成功地克服了编码器的限制，并在多个领域取得了最新的最佳结果。

    Oct, 2022

  • 结构感知 Seq2seq 学习的表格到文本生成

    本文提出一个新结构的 seq2seq 模型，包含场门编码器和生成器，以及双重注意力机制，通过编码和解码阶段实现了对表格内容和结构的建模，从而实现了表格到文本的生成任务，并在 WIKIBIO 数据集上取得了优于基线的结果。

    Nov, 2017

  • 多模表格理解

    本研究论文提出了一种新的问题，即多模态表格理解，其中模型需要根据给定的表格图像对各种与表格相关的请求生成正确的响应。为了促进模型的训练和评估，构建了一个名为 MMTab 的大规模数据集，该数据集涵盖了广泛的表格图像、指令和任务。在此基础上，研发了 Table-LLaVA，一种通用的表格多模态大型语言模型（MLLM），在 23 个基准测试中，在保留内部和保留外部设置下，其性能明显优于最近的开源 MLLM 基准线。

    Jun, 2024

  • 在数据稀缺的约束下，在人工参与机制下的医学科学表格自动生成文本

    本文提出了一种新的基于表格到文本的方法，通过自我纠正、复制机制和合成数据增量，增强了该方法的性能。实验证明，该方法选择了显著的生物医学实体和值，以生成相关的文本，同时我们还演示了该系统对新数据集的轻量级适应。人工验证表明，该模型的输出是准确和可靠的。

    May, 2022

  • 基于编码器 - 解码器模型的表格生成框架

    提出了一种面向文本到表格的神经模型框架，包括排列基础的解码器，可应用于提取行项、合并实体和关系、或者知识库填充等 NLP 任务中，并在多个挑战性数据集上实现了超越以往解决方法高达 15％的最优效果。

    Jun, 2022

  • 通过输入设计评估和增强大型语言模型在表格上的结构理解能力

    本文旨在通过设计一个基准来评估 LLMs 的结构理解能力，包括七个挑战不同的任务，使用 self-augmentation 方法来提高 LLMs 的表格任务表现，提高了 TabFact、HybridQA、SQA、Feverous 和 ToTTo 等表格任务的性能。

    May, 2023

  • 从半结构化表格中生成样例，赋予语言模型推理技能

    本文提出了一种基于预训练的方法，通过利用半结构化表格自动生成问题 - 段落对，以检验模型的推理能力，并且通过采样策略来提高模型训练的效率，在三个涉及推理的阅读理解数据集上证明了我们的模型相比于现有流行模型 T5 表现更优。

    Jul, 2021