Jun, 2023

可再生数据到文本生成：带验证和纠正提示

PDF
TL;DR本文提出了一个多步骤方法，通过引入验证、纠错和生成阶段，超越传统的一次性生成方法，实现了从结构化输入生成文本描述，名为数据到文本生成。我们的方法使用一个验证步骤，将观察结果转换成特殊的错误指示提示，指导模型修复错误并改进输出，通过实验结果展示了我们的方法有效减少了槽错误率，并保持了生成文本的总体质量。
data-to-text generationmulti-step approachverificationerror-indication promptslot error rates
发现论文，激发创造
  • 变分序列计划数据生成技术

    本论文考虑数据到文本生成的任务，着重提出了一种生成长篇文章的神经模型，增加了计划组件来组织高层次信息，在结构化变分模型的帮助下逐步推理出潜在计划，从而生成文本。在 RotoWire 和 MLB 两个数据到文本基准测试中，本模型表现优于基准模型，并且在训练数据有限的情况下具有较高的样本效率。

    Feb, 2022

  • 迭代文本编辑的数据生成

    本研究提出了一种基于迭代文本编辑的数据到文本生成新方法，使用两个先前训练模型 LaserTagger 和 GPT-2，并通过简单的启发式筛选和已训练语言模型对输出进行筛选和重新排序。

    Nov, 2020

  • Deliberate then Generate: 文本生成的增强提示框架

    研究通过提出一种新的 “DTG” 提示框架来改善大型语言模型在自然语言生成任务中的表现，该提示框架在 20 多个数据集和 7 个文本生成任务中进行了广泛实验，表明 DTG 方法在多项文本生成任务中表现卓越，优于现有的提示方法，并提供了有关其机理的深入分析。

    May, 2023

  • 内容选择与规划的数据转文本生成

    本文提出了一种神经网络体系结构，它在不牺牲端到端训练的前提下，结合了内容选择和计划，通过将生成任务分解为两个阶段，根据数据记录生成内容计划并生成文档，在自动化和人类试验中都取得了优越表现，从而提高了最近发布的 RotoWire 数据集的最新技术。

    Sep, 2018

  • 朝着可验证的文本生成：演进记忆与自我反思

    该论文介绍了一种创新的可验证文本生成方法，利用演化记忆和自我反思进行文本生成。该方法通过保持演化的长短期记忆来保存有价值和最新的文档，利用主动检索和多样化查询生成来增强检索文档的精度和范围，并通过两层的验证器和证据查找器来反思和思考论点与引用之间的关系。在五个数据集上进行了广泛实验，结果表明该方法明显优于现有基准。

    Dec, 2023

  • 数据文档生成的挑战

    研究采用新颖的数据生成文本的方式，对当前的文本生成方法进行了探究，并通过提出一系列抽取性评估方法和使用当前神经生成方法得到基线结果。实验结果表明，这些模型产生流畅的文本，但未能令人信服地近似人类生成的文档，甚至模板化的基线方法在某些指标上超过了这些神经模型，尽管复制和重构扩展会导致明显的改进。

    Jul, 2017

  • 基于提示的文本风格转移编辑

    该论文提出了一种基于提示的文本风格转换编辑方法，其中使用预训练语言模型进行风格分类，使用分类概率计算风格得分，然后通过词级别的编辑，以最大化全面的评分函数来实现风格转换任务，实验表明其性能远高于具有 20 倍参数的现有技术。

    Jan, 2023

  • 基于计划的神经数据到文本生成的质量和效率提升

    本文从 Moryossef et al （2019）所提出的步骤式神经数据到文本生成方法出发，通过引入可训练的神经计划组件、打字提示、排序确认阶段和简单而有效的指代表达式生成模块的四个扩展，实现了一个更快，更流畅和更准确的生成过程。

    Sep, 2019

  • 基于 LM 的文本增强的神经数据到文本生成

    通过少量文本样本的文本增强和使用循环一致性作为目标实现弱监督训练范式在数据到文本生成中的有效性。

    Feb, 2021

  • 计划 - 生成：通过计划控制数据到文本的生成

    本研究提出了一种 Plan-then-Generate（PlanGen）框架，以改善神经数据生成文本模型的可控性，并通过两个基准数据集 ToTTo 和 WebNLG 进行了广泛的实验和分析，结果显示，我们的模型能够控制生成输出的句内和句间结构，而且与先前的最先进方法进行了实证比较，显示出我们的模型提高了生成质量以及人机评估的输出多样性。

    Aug, 2021