ACLJun, 2021

指点还是不指点：深入理解摘要生成器的文本改写技术

PDF
TL;DR本文研究了抽象神经摘要模型中常用的门控机制是如何控制摘要产生的抽象度和拷贝的提取性，并通过实验证明了这种机制在语法边界方面的应用。同时，也发现了抽象神经摘要模型目前缺乏生成都具备抽象和忠实性的释义所必需语义理解能力的问题。
abstractive neural summarizationpointer-generator modelcopy/generation switchsyntactic boundariessemantic understanding
发现论文，激发创造
  • 利用指针生成网络进行摘要生成

    本文提出了一种新的架构，通过使用混合指针生成网络和覆盖机制以增强标准的序列到序列注意模型来解决神经序列到序列模型不精确复制信息和重复问题，该模型在 CNN/Daily Mail 摘要任务上表现优异。

    Apr, 2017

  • 指针生成网络：更抽象的摘要生成

    该研究提出了一种基于多头注意力机制、指针 dropout 和新的损失函数的方法，用于促进摘要的提取，同时保持类似 ROUGE 分数，实现了相对较高的新颖 N-gram 和句子生成率。

    Apr, 2019

  • 通过引导注意力来提高指针网络的生成质量

    本文指出指针生成网络在生成摘要方面存在的提取性和事实准确性不足，并通过附加传统语言信息来纠正这些缺陷，以提高生成效果。

    Jan, 2019

  • 抽象摘要中的逐字复制数量控制

    通过学习自单一人类摘要信息，我们提出了一种神经网络摘要模型，该模型可以生成从纯粹提取式到高度生成式的多种摘要假设，并在控制文本复制的同时实现训练和解码阶段内的控制，从而实现了竞争性的结果。

    Nov, 2019

  • 概念指针网络用于抽象摘要生成

    本论文提出基于概念指针网络的抽象总结方法，使得生成的总结不仅保留了原文的关键信息，同时还生成了新的概念词汇来表达具体细节，而且采用了一种新颖的远程监督学习方法来优化训练模型。实验结果表明，该方法在 DUC-2004 和 Gigaword 数据集上显著优于多种最先进的模型。

    Oct, 2019

  • 文本摘要中的抽象化改进

    提出使用上下文相关网络和预训练的语言模型来提高抽象文本摘要的生成水平和使用新颖度度量来优化生成的摘要，从而实现比现有方法更高水平的摘要生成。

    Aug, 2018

  • 基于神经网络的基于查询的抽象摘要生成

    本文提出了一种基于查询的文章摘要生成模型，使用新闻文章摘要数据集训练了指针生成模型，通过与参考摘要的相似度评估生成的摘要，结果表明可以构建类似于抽象式摘要的神经网络模型，使用查询生成有针对性的摘要。

    Dec, 2017

  • 基於 Transformer 語言模型的抽取式和生成式神經文件摘要

    本文采用神经抽象总结的方法来产生长文档的抽象总结，该方法使用一个简单的抽取步骤来生成一个摘要，然后将其用作相关信息的转换器语言模型的条件，然后生成一个摘要。我们展示了这个抽取步骤显著地改善了总结结果，而且这种方法产生的抽象总结比以前采用复制机制的工作能够实现更高的浸润得分。

    Sep, 2019

  • 抽象摘要中的句子重写的摘要级别训练

    本文通过使用句子重写模型，采用先提取常规句子，后对所选句子进行释义来生成摘要的策略，提出了一种通过强化学习直接最大化摘要级别 ROUGE 得分的新型训练信号，并在 CNN / Daily Mail 和纽约时报数据集上展示了新的最先进表现。在整个实验中，我们还演示了它在 DUC-2002 测试集上的普遍适用性。

    Sep, 2019

  • 一种新的从容提取摘要的方法

    本研究提出一种新方法，通过生成多个变体的目标摘要，这些摘要具有不同的内容和不同的长度，并根据用户的需要进行评分和选择，该方法可用于控制摘要长度，从而实现最佳的信息概括，保证真实性并确保流畅。

    Apr, 2021