Oct, 2018

数据到文本生成的端到端内容和计划选择

PDF
TL;DR本文介绍了多种扩展序列 - 序列模型的方法，旨在解决从结构化数据中生成流畅自然语言的问题，特别关注潜在内容选择过程的变体，包括复制注意力和覆盖解码。我们提出了一种基于多样集成的训练方法，以鼓励模型在训练过程中学习不同的句子模板，并通过比较其生成的文本在五个自动度量标准和人类评估中的结果，表明这些技术可以提高生成文本的质量。
发现论文，激发创造
  • 内容选择与规划的数据转文本生成

    本文提出了一种神经网络体系结构，它在不牺牲端到端训练的前提下，结合了内容选择和计划，通过将生成任务分解为两个阶段，根据数据记录生成内容计划并生成文档，在自动化和人类试验中都取得了优越表现，从而提高了最近发布的 RotoWire 数据集的最新技术。

    Sep, 2018

  • 变分序列计划数据生成技术

    本论文考虑数据到文本生成的任务，着重提出了一种生成长篇文章的神经模型，增加了计划组件来组织高层次信息，在结构化变分模型的帮助下逐步推理出潜在计划，从而生成文本。在 RotoWire 和 MLB 两个数据到文本基准测试中，本模型表现优于基准模型，并且在训练数据有限的情况下具有较高的样本效率。

    Feb, 2022

  • 神经文本生成的句子级内容规划和风格规范

    通过端到端训练的两步生成模型，即首先由句子级内容规划器决定涵盖的关键词组和所需的语言风格，然后由表面实现解码器生成相关和连贯的文本，可以显著优于现有竞争模型，在 Reddit 的说服性论证、维基百科的正常和简单版本的段落生成以及科学文章的摘要生成等任务中得到验证。

    Sep, 2019

  • 选择和关注：走向可控的文本内容选择生成

    本研究提出了一种新的神经编码 - 解码模型，它将内容选择与表面实现分离，实现了对生成文本内容的控制。该模型在数据到文本和标题生成任务中获得了有希望的结果，为文本生成中的可控内容选择铺平了道路。

    Sep, 2019

  • 搜索与学习：改进数据到文本生成的语义涵盖率

    该论文提出一种搜索和学习的方法来解决低语义覆盖率问题，进而提高 data-to-text 生成中预训练语言模型的效率，并在 E2E 和 WikiBio 数据集上实现了高性能。

    Dec, 2021

  • 基于结构化数据的订单规划神经文本生成

    研究人员提出了一种基于训练有素的神经网络的文本生成模型，以便从结构化数据中（例如表格）生成自然文本，该模型能够捕捉不同字段之间的关系，以生成更流畅的文本。

    Sep, 2017

  • 基于字符的数据到文本生成的复制机制和定制训练

    本篇论文提出了一种基于字符的端到端序列 - to - 序列模型，具有注意力机制、不需要词汇处理，以及包含常规生成机制和复制输入事实以产生输出的复制机制，同时提出了一个新的数据集 E2E+，并表明该模型在五个常用度量标准下的性能逊于基于字符和基于词汇的方法。

    Apr, 2019

  • 实体建模的数据生成

    该论文介绍了一种以实体为中心的神经体系结构，用于生成数据到文本的任务，并通过在 RotoWire 基准和棒球领域的新数据集上进行的实验，表明该模型在自动和人类评估上优于竞争基线。

    Jun, 2019

  • 计划 - 生成：通过计划控制数据到文本的生成

    本研究提出了一种 Plan-then-Generate（PlanGen）框架，以改善神经数据生成文本模型的可控性，并通过两个基准数据集 ToTTo 和 WebNLG 进行了广泛的实验和分析，结果显示，我们的模型能够控制生成输出的句内和句间结构，而且与先前的最先进方法进行了实证比较，显示出我们的模型提高了生成质量以及人机评估的输出多样性。

    Aug, 2021

  • 数据到文本自动选择、跟踪和生成学习

    本文提出一种数据到文本生成模型，包含追踪模块和文本生成模块，能模拟人类的写作过程，在不需要作者信息的情况下就能在所有的评估度量中表现优异，结合作者信息可以进一步提高性能。

    Jul, 2019