Apr, 2017

利用指针生成网络进行摘要生成

PDF
TL;DR本文提出了一种新的架构，通过使用混合指针生成网络和覆盖机制以增强标准的序列到序列注意模型来解决神经序列到序列模型不精确复制信息和重复问题，该模型在 CNN/Daily Mail 摘要任务上表现优异。
neural sequence-to-sequence modelsabstractive text summarizationhybrid pointer-generator networkcoveragecnn/daily mail summarization task
发现论文，激发创造
  • 指针生成网络：更抽象的摘要生成

    该研究提出了一种基于多头注意力机制、指针 dropout 和新的损失函数的方法，用于促进摘要的提取，同时保持类似 ROUGE 分数，实现了相对较高的新颖 N-gram 和句子生成率。

    Apr, 2019

  • 通过引导注意力来提高指针网络的生成质量

    本文指出指针生成网络在生成摘要方面存在的提取性和事实准确性不足，并通过附加传统语言信息来纠正这些缺陷，以提高生成效果。

    Jan, 2019

  • 概念指针网络用于抽象摘要生成

    本论文提出基于概念指针网络的抽象总结方法，使得生成的总结不仅保留了原文的关键信息，同时还生成了新的概念词汇来表达具体细节，而且采用了一种新颖的远程监督学习方法来优化训练模型。实验结果表明，该方法在 DUC-2004 和 Gigaword 数据集上显著优于多种最先进的模型。

    Oct, 2019

  • 指点还是不指点：深入理解摘要生成器的文本改写技术

    本文研究了抽象神经摘要模型中常用的门控机制是如何控制摘要产生的抽象度和拷贝的提取性，并通过实验证明了这种机制在语法边界方面的应用。同时，也发现了抽象神经摘要模型目前缺乏生成都具备抽象和忠实性的释义所必需语义理解能力的问题。

    Jun, 2021

  • 基于神经网络的基于查询的抽象摘要生成

    本文提出了一种基于查询的文章摘要生成模型，使用新闻文章摘要数据集训练了指针生成模型，通过与参考摘要的相似度评估生成的摘要，结果表明可以构建类似于抽象式摘要的神经网络模型，使用查询生成有针对性的摘要。

    Dec, 2017

  • 综合的和抽象的摘要：基于行列式点过程的多样化注意力

    本文通过引入一种称为微观 DPPs 和宏观 DPPs 的方法，提出了一个名为 DivCNN Seq2Seq 的 Diverse Convolutional Seq2Seq 模型，用于生成注重质量和多样性的 attention distribution，从而相比传统模型和强基线模型实现更高的综合性摘要生成。

    Sep, 2019

  • 使用序列到序列 RNN 及其扩展进行抽象文本摘要

    该研究使用注意力编码 - 解码循环神经网络模型抽象化文本摘要，并在两个不同的语料库上展示其实现最先进的性能。同时，该研究还提出了几种解决文摘中的关键问题的新模型，比如建模关键词、捕捉句子到单词结构的层次以及提取训练时很少出现的单词等。此外，研究还建立了一个多句子的文摘数据集，以便后续的新研究能建立性能基准。

    Feb, 2016

  • 顺序复制网络

    本文提出了一种新的复制框架 SeqCopyNet，它不仅能够复制单个单词，还能够从输入句子中复制序列，实验证明 SeqCopyNet 在句子摘要和问题生成方面表现出色。

    Jul, 2018

  • 面向主题的指针生成网络用于口语对话摘要

    为了更好地总结对话内容，我们提出了一种基于主题感知结构的指针生成器模型，该模型在使用具有层次结构的主题信息进行适应的同时，在提取和生成方面展现了卓越的性能。

    Oct, 2019

  • 序列到序列模型的神经摘要文本概括

    本研究从网络结构、训练策略和摘要生成算法三个方面全面综述了不同的 seq2seq 模型用于文本摘要生成的研究，并提出了一个名为 NATS 的开源工具包进行研究，对 CNN / Daily Mail 数据集进行了广泛的实验检验，在 Newsroom 和 Bytecup 数据集上测试了两个模型。

    Dec, 2018