EMNLPAug, 2017

深度循环生成解码器用于抽象文本摘要

PDF
TL;DR提出了一种基于序列到序列编码器 - 解码器模型并配备深层递归生成解码器的抽象文本摘要框架，通过利用循环潜在随机模型来学习目标摘要中隐含的潜在结构信息以提高摘要质量；同时应用神经变分推断来解决循环潜在变量的不可解后验推断问题，在生成潜在变量和判别性确定状态的基础上生成抽象摘要，实验结果表明，该方法优于现有最先进的方法。
发现论文，激发创造
  • 主题扩充生成器用于抽象化摘要

    该研究提出了一种新的解码器，通过条件调整文本和文档的潜在主题来生成摘要，使用 LDA 等主题模型揭示了更多的全局语义信息，使解码器能够访问文本语料库级别的词共现统计信息，实验表明，与现有模型相比，该方法能显著提高 ROUGE 分数。

    Aug, 2019

  • 生成对抗网络用于抽象文本摘要

    本文提出了一种针对抽象文本摘要的对抗性过程，在其中同时训练了生成模型和判别模型，并使用增强学习构建了生成器，该生成器可以将原始文本作为输入并预测抽象摘要。我们还构建了一个判别器来区分生成的摘要和真实值。经过广泛的实验证明，我们的模型在 CNN / Daily Mail 数据集上达到了具有竞争力的 ROUGE 分数。从质量上看，我们证明了我们的模型能够生成更多抽象、易读和多样化的摘要。

    Nov, 2017

  • 基于注意力机制 GRU 编码器 - 解码器的抽象文本摘要

    本篇论文中，采用了 GRU-based encoder 和 Bahdanau attention mechanism 对英语文本进行了自动摘要，使用 News-summary 数据集进行训练，其输出表现优异，可以用作报纸头条。

    Feb, 2023

  • 使用序列到序列 RNN 及其扩展进行抽象文本摘要

    该研究使用注意力编码 - 解码循环神经网络模型抽象化文本摘要，并在两个不同的语料库上展示其实现最先进的性能。同时，该研究还提出了几种解决文摘中的关键问题的新模型，比如建模关键词、捕捉句子到单词结构的层次以及提取训练时很少出现的单词等。此外，研究还建立了一个多句子的文摘数据集，以便后续的新研究能建立性能基准。

    Feb, 2016

  • 神经抽象摘要生成中切断冗余重复历代

    本文提出了一种利用编码器中目标词汇的上限频率进行控制从而减少重复生成的 RNN 编码器 - 解码器模型，并在提取摘要任务上取得了显著的改进。

    Dec, 2016

  • 深度强化学习模型用于摘要生成

    提出了一种基于编码器 - 解码器和 RNN 的自注意力神经网络模型，通过组合监督和强化学习来训练和生成连贯性和可读性更强的长文摘要，与目前最先进模型相比，在 CNN / Daily Mail 数据集上取得了 41.16 的 ROUGE-1 得分，并且人工评估表明我们的模型产生了更高质量的摘要。

    May, 2017

  • 由潜在分层文档结构引导的抽象摘要

    提出使用层次感知图神经网络（HierGNN）实现文档结构层次分析的自动摘要模型，在 CNN / DM 和 XSum 数据集上分别取得了平均 ROUGE-1/2/L 为 0.55 和 0.75，在人工评估中也证明了其比基线具有更高的内容相关性和较少的冗余。

    Nov, 2022

  • 使用生成对抗网络学习将文本编码为人类可读摘要

    本文介绍了一种基于自编码器的无配对抽象摘要生成方法，通过生成器和复原器对输入文本进行编码和解码，再通过鉴别器确保生成的文本与人类写作的句子相似，从而获得可读性强的人类摘要，无需文档摘要对作为训练数据。该方法在英文和中文语料库上取得了良好的表现。

    Oct, 2018

  • 基于深度强化学习的自动源代码摘要改进

    本文提出一种基于 Actor-Critic 模型和抽象语法树的深度强化学习框架，用于代码摘要。该模型在训练时采用 BLEU 指标进行奖励，实验证明该模型在真实世界数据集上的表现优于一些最先进的方法。

    Nov, 2018

  • 文本摘要中的抽象化改进

    提出使用上下文相关网络和预训练的语言模型来提高抽象文本摘要的生成水平和使用新颖度度量来优化生成的摘要，从而实现比现有方法更高水平的摘要生成。

    Aug, 2018