ACLApr, 2017

查询驱动的抽象总结的多样性注意力模型

PDF
TL;DR该研究提出了一种基于编码 - 注意 - 解码范式的查询式摘要模型，具有查询注意模型和多样性基于注意模型。实验表明，该模型相对于基础模型具有 28% 的 ROUGE-L 分数的增益。
abstractive summarizationquery-based summarizationencode-attend-decode paradigmquery attention modeldiversity based attention model
发现论文，激发创造
  • 一种论述感知的长文本抽象摘要关注模型

    本文提出了一种针对单个较长文档（如研究论文）进行抽象概括的模型，采用新的分层编码器对文章进行语篇结构建模，并运用有意识的编码器生成摘要，实验证明该模型显著优于现有模型。

    Apr, 2018

  • 带有结构注意力的神经抽象摘要

    本文提出了一种基于结构化注意力的分层编码器，用于建模句内和文档间相互依赖关系，在多文档摘要生成任务中表现出显著的改进，击败了现有的模型。

    Apr, 2020

  • 摘要文档生成的注意力优化

    该论文提出了一种基于序列到序列的文档摘要模型中的注意力机制改进方法，结合局部方差损失和全局方差损失分别从局部和全局方面增强注意力的监督，并在 CNN/Daily Mail 数据集上验证了其有效性。

    Oct, 2019

  • AttSum: 神经注意力机制的聚焦和摘要联合学习

    AttSum 是一种新的自动学习分布式表示和应用注意力机制的查询聚焦式文本摘要系统，并在标准基准数据集上取得了较好的性能。

    Apr, 2016

  • 深度强化学习模型用于摘要生成

    提出了一种基于编码器 - 解码器和 RNN 的自注意力神经网络模型，通过组合监督和强化学习来训练和生成连贯性和可读性更强的长文摘要，与目前最先进模型相比，在 CNN / Daily Mail 数据集上取得了 41.16 的 ROUGE-1 得分，并且人工评估表明我们的模型产生了更高质量的摘要。

    May, 2017

  • 总结系统编码器 - 解码器注意力中的稀疏性和句子结构

    研究表明摘要任务中有稀疏的句子结构，可以用部分输入句子来限制编码器 - 解码器注意机制，并保持系统性能。

    Sep, 2021

  • 综合的和抽象的摘要：基于行列式点过程的多样化注意力

    本文通过引入一种称为微观 DPPs 和宏观 DPPs 的方法，提出了一个名为 DivCNN Seq2Seq 的 Diverse Convolutional Seq2Seq 模型，用于生成注重质量和多样性的 attention distribution，从而相比传统模型和强基线模型实现更高的综合性摘要生成。

    Sep, 2019

  • 基于神经注意力机制的摘要句子生成模型

    本文提出了一种基于数据驱动的、对抽象句子的局部关注模型进行生成式摘要的方法，通过训练大规模数据，该模型相比较于几种强基线模型在 DUC-2004 共享任务中表现了显著的性能提升。

    Sep, 2015

  • Focus Attention: 促进摘要信息的忠实性和多样性

    文章介绍了一种 “Focus Attention Mechanism” 方法，用于促进生成与输入的主题相似的数据摘要，同时提出了一种 “Focus Sampling” 方法，实现多样化生成，实验表明这种方法比其他采样方法更有效。

    May, 2021

  • 一种基于混合分层注意力的编码器 - 解码器方法用于标准表格摘要

    深度学习模型可使用 Hierarchical Attention 的编码 - 解码方法来提高结构化表格的自然语言 summarization，并在 WEATHERGOV 数据集中实验，得到了～30% 的提升。

    Apr, 2018