AAAINov, 2017

生成对抗网络用于抽象文本摘要

PDF
TL;DR本文提出了一种针对抽象文本摘要的对抗性过程，在其中同时训练了生成模型和判别模型，并使用增强学习构建了生成器，该生成器可以将原始文本作为输入并预测抽象摘要。我们还构建了一个判别器来区分生成的摘要和真实值。经过广泛的实验证明，我们的模型在 CNN / Daily Mail 数据集上达到了具有竞争力的 ROUGE 分数。从质量上看，我们证明了我们的模型能够生成更多抽象、易读和多样化的摘要。
abstractive text summarizationadversarial processgenerative modeldiscriminative modelreinforcement learning
发现论文，激发创造
  • 使用生成对抗网络学习将文本编码为人类可读摘要

    本文介绍了一种基于自编码器的无配对抽象摘要生成方法，通过生成器和复原器对输入文本进行编码和解码，再通过鉴别器确保生成的文本与人类写作的句子相似，从而获得可读性强的人类摘要，无需文档摘要对作为训练数据。该方法在英文和中文语料库上取得了良好的表现。

    Oct, 2018

  • 深度循环生成解码器用于抽象文本摘要

    提出了一种基于序列到序列编码器 - 解码器模型并配备深层递归生成解码器的抽象文本摘要框架，通过利用循环潜在随机模型来学习目标摘要中隐含的潜在结构信息以提高摘要质量；同时应用神经变分推断来解决循环潜在变量的不可解后验推断问题，在生成潜在变量和判别性确定状态的基础上生成抽象摘要，实验结果表明，该方法优于现有最先进的方法。

    Aug, 2017

  • 摘要生成中的话语理解和事实一致性

    该研究提出了一种新的基于 Transformer 的 Co-opNet 框架，旨在消除抽象摘要生成中存在的一些问题，如虚构信息，连贯性问题，流故事性等，并通过实验证明，其与竞争基线相比，具有显著的全局连贯性。

    Jul, 2019

  • 对抗特征匹配的文本生成

    该研究提出了一种通过敌对训练生成逼真文本的框架，采用了 LSTM 作为生成器，卷积网络作为判别器，并使用核距离度量匹配真实和合成句子的高维潜在特征分布，从而缓解了模式崩溃问题，并在定量评估方面表现出优越性，证明了该模型可以生成逼真的句子。

    Jun, 2017

  • 使用生成对抗网络进行文本生成的调查

    本篇论文介绍了最近使用生成对抗网络进行文本生成的研究和进展，并对基于对抗学习的文本生成的三种可能选择（即 Gumbel-Softmax 分化，强化学习和修改训练目标）进行了综述。

    Dec, 2022

  • 稳健神经摘要生成系统及其对抗信息的评估

    本文提出了一种基于语义理解的神经生成式摘要模型，通过对显要内容的语义解释学习生成高质量摘要。同时引入一种新的对抗样本评估体制，证明该模型比流行的指针 - 生成式模型更好地识别了离题信息，并且人工评估结果表明本文模型生成的摘要更具信息量和可信度，且冗余度更低。

    Oct, 2018

  • 基于神经网络的基于查询的抽象摘要生成

    本文提出了一种基于查询的文章摘要生成模型，使用新闻文章摘要数据集训练了指针生成模型，通过与参考摘要的相似度评估生成的摘要，结果表明可以构建类似于抽象式摘要的神经网络模型，使用查询生成有针对性的摘要。

    Dec, 2017

  • 抽象摘要生成的判别式对抗搜索

    本研究提出了一种名为 DAS 的新型序列解码方法，使用判别器来驱动序列生成，从而减轻现象偏差的影响；应用该方法于提取式摘要任务上的实验结果表明，DAS 可以优于现有最先进的方法，同时可用于不同领域的自适应，而且不需要依赖后处理规则过滤策略。

    Feb, 2020

  • 基于增强学习的选句重写快速生成摘要

    本论文提出一种快速、精准的摘要生成模型，该模型首先选择重要句子，然后使用新颖的基于句子级的策略梯度方法实现两个神经网络之间的其它计算，最后生成简洁的总体摘要。该模型在 CNN/Daily Mail 数据集上的表现达到了最新的最佳水平，并且具有更高的抽象性得分，同时也展示出相较于之前的长段落编码 - 解码模型，更快的推断速度和训练收敛速度优势，而且在 DUC-2002 数据集上表现更优。

    May, 2018

  • 将读者评论纳入抽象文本摘要

    本文介绍了一种采用读者评论辅助生成 “主要方面” 摘要的方法 —— 读者感知的生成式摘要。使用对抗思想和神经网络框架，作者提出了一个名为 RASG 的模型，该模型克服了评论的非正式和嘈杂的挑战，并取得了表现优异的成果。

    Dec, 2018