Sep, 2019

综合的和抽象的摘要：基于行列式点过程的多样化注意力

PDF
TL;DR本文通过引入一种称为微观 DPPs 和宏观 DPPs 的方法，提出了一个名为 DivCNN Seq2Seq 的 Diverse Convolutional Seq2Seq 模型，用于生成注重质量和多样性的 attention distribution，从而相比传统模型和强基线模型实现更高的综合性摘要生成。
seq2seqabstractive summarizationattention distributiondeterminantal point processesdivcnn seq2seq
发现论文，激发创造
  • 使用序列到序列 RNN 及其扩展进行抽象文本摘要

    该研究使用注意力编码 - 解码循环神经网络模型抽象化文本摘要，并在两个不同的语料库上展示其实现最先进的性能。同时，该研究还提出了几种解决文摘中的关键问题的新模型，比如建模关键词、捕捉句子到单词结构的层次以及提取训练时很少出现的单词等。此外，研究还建立了一个多句子的文摘数据集，以便后续的新研究能建立性能基准。

    Feb, 2016

  • 利用深度学习架构增强上下文理解的神经序列到序列模型与注意力的应用于抽象文本摘要

    该研究提出了一个新颖的抽象式单文档文本摘要框架，融合了结构、语义和基于神经网络的方法，通过结合机器学习和基于知识的技术实现了一种统一的方法。实验证明了该框架在处理罕见和未登录词方面的显著改进，优于现有的深度学习技术。

    Apr, 2024

  • 一种加强主题感知的卷积序列到序列模型用于抽象文本摘要

    本文提出了一种深度学习方法来解决自动摘要任务，通过将主题信息结合到卷积序列到序列 (ConvS2S) 模型中，并使用自举式非监督序列训练 (SCST) 进行优化。通过联合关注主题和单词级别对齐，我们的方法可以通过有偏的概率生成机制改善生成摘要的一致性、多样性和信息量。与 SCST 类似的强化训练直接根据不可微度量 ROUGE 优化所提出的模型，在推理期间也避免了曝光偏差。我们在 Gigaword、DUC-2004 和 LCSTS 数据集上对最先进的方法进行了实验评估。实证结果证明了我们所提出的抽象摘要方法的优越性。

    May, 2018

  • 利用指针生成网络进行摘要生成

    本文提出了一种新的架构，通过使用混合指针生成网络和覆盖机制以增强标准的序列到序列注意模型来解决神经序列到序列模型不精确复制信息和重复问题，该模型在 CNN/Daily Mail 摘要任务上表现优异。

    Apr, 2017

  • 深度强化学习模型用于摘要生成

    提出了一种基于编码器 - 解码器和 RNN 的自注意力神经网络模型，通过组合监督和强化学习来训练和生成连贯性和可读性更强的长文摘要，与目前最先进模型相比，在 CNN / Daily Mail 数据集上取得了 41.16 的 ROUGE-1 得分，并且人工评估表明我们的模型产生了更高质量的摘要。

    May, 2017

  • 序列到序列模型的神经摘要文本概括

    本研究从网络结构、训练策略和摘要生成算法三个方面全面综述了不同的 seq2seq 模型用于文本摘要生成的研究，并提出了一个名为 NATS 的开源工具包进行研究，对 CNN / Daily Mail 数据集进行了广泛的实验检验，在 Newsroom 和 Bytecup 数据集上测试了两个模型。

    Dec, 2018

  • 改进用于监督视频摘要的序列行列式点过程

    本文讲述了一种基于顺序行列式点过程（SeqDPP）的有监督视频摘要方法，该方法通过概率分布建模多样性。我们提出了一种大边际算法，以解决 SeqDPP 中的曝光偏差问题。同时，我们还设计了一种新的概率分布，当它被集成到 SeqDPP 中时，产生的模型可以接受用户输入期望的摘要长度。此外，我们还扩展了一个视频摘要数据集，并对该数据集进行了广泛的实验比较。

    Jul, 2018

  • 预训练序列到序列和显著性模型的结合抽象化摘要

    本研究通过实验证明，将能够识别源文本重要部分的显著性模型与预先训练的 seq-to-seq 模型相结合，可以在 CNN/DM 和 XSum 数据集上优于预先训练的 seq-to-seq 模型，并在 ROUGE-L 指标上超过以前最佳表现模型。

    Mar, 2020

  • 改进序列到序列模型，使用元启发式方法进行抽象文本摘要

    在信息时代，人们阅读冗长的新闻文章的时间越来越少，提供简洁的信息摘要变得比以往任何时候都更为重要。本文旨在改进现有的架构和模型，针对抽象文本摘要进行微调超参数，并尝试特定的编码器 - 解码器组合，以提高摘要生成的效果。

    Mar, 2024

  • 摘要文档生成的注意力优化

    该论文提出了一种基于序列到序列的文档摘要模型中的注意力机制改进方法，结合局部方差损失和全局方差损失分别从局部和全局方面增强注意力的监督，并在 CNN/Daily Mail 数据集上验证了其有效性。

    Oct, 2019