EMNLPOct, 2020

基于可信度和显著性建模的压缩式总结

PDF
TL;DR本文提出了一种基于可信度和显著性的数据驱动压缩算法，通过使用一个预训练的 Transformer 模型来判断可能删除的语段是否保持语法正确和事实真实，并且仅删除既可信又不显著的语段。实验结果表明，该算法在基准摘要数据集上表现出色，并且具有跨领域泛化的能力。
compressive summarizationsyntactic rulesdata-driven criteriatransformer modelbenchmark summarization datasets
发现论文，激发创造
  • 使用基于压缩的后编辑改善摘要中的事实一致性

    本文提出了一种基于句子压缩数据的模型无关方法，旨在在保留要点和格式要求的同时消除外在实体错误，从而提高信息摘要生成中的事实一致性，并使用 XSum 数据集进行评估， 实验结果表明，在不影响 ROUGE 的情况下，本文所提出的方法可以提高实体准确性高达 30％。

    Nov, 2022

  • 基于学习的单文档压缩和先行词约束式摘要

    本文提出了一种判别模型，它将压缩和先行语限制结合起来，选择文本单元以生成单文档摘要，并在大语料库上学习权重。训练后，该系统在 ROUGE 和人类语言质量判断方面均优于其他已有工作。

    Mar, 2016

  • 神经抽取式文本摘要与句法压缩

    本文提出了一种基于联合提取和句法压缩的神经模型用于单文档摘要，该模型选择文档中的句子，通过句法分析识别可能的压缩，并用神经模型评分这些压缩以生成最终的摘要，实验结果表明，该模型在 ROUGE 评估中表现良好，能够达到与最先进系统相当的性能，并且其输出一般保持语法正确。

    Feb, 2019

  • 一种基于句子压缩的框架用于查询焦点的多文档摘要

    本文提出了一个基于句子压缩技术的任务框架，通过基于解析树的一系列学习模型，设计一种创新的 Beam Search 解码器来高效地找到高概率压缩结果，将语言学动机和查询相关性融入压缩过程中，并在多项指标上显著优于最先进的系统，包括在 DUC 2006 和 2007 摘要任务中分别获得 ROUGE-2 指标上 8.0% 和 5.4% 的改进。

    Jun, 2016

  • 基于 RL 的句子摘要中语法蕴含的质量

    本文比较了强化学习（RL）和基于句法的模型（如基于词性标注和依存信息的模型）两种文摘方法的优劣，并探究了它们在生成摘要时的影响，得出了使用两种方法的联合模型在质量评估方面表现最佳，但仅使用强化学习的训练无需更少的参数和更快的训练收敛即可得到与基于句法模型相近的好结果。

    Dec, 2019

  • 重新审视用于基于 NLI 的摘要事实评分的文本分解方法

    本文系统地比较了将事实性分值应用于分解的不同粒度，并表明不是所有数据集都适用于将上下文信息集成到模型中的方法。

    Nov, 2022

  • 局部关注和内容选择实现的长篇摘要

    本研究提出使用 local self-attention 和 explicit content selection 两种方法来应对长篇文档摘要中的长跨度依赖，并利用大型预训练变压器模型在 Spotify Podcast、arXiv 和 PubMed 等标准数据集上进行实验，证明两种方法的组合可以在 3 个任务中实现 ROUGE 得分的最优结果。此外，与现有算法相比，在没有大规模 GPU 计算机卡的情况下，本研究的方法也可以实现相当或更好的结果。

    May, 2021

  • 探索可解释性选择以控制抽象摘要

    本篇研究发展了一个名为 ESCA 的模型，该模型通过开创性的选择 - 生成框架实现了文档摘要，能够以更好的性能应用于 CNN/Daily Mail 和 NYT50 等基准数据集。

    Apr, 2020

  • 基于关注要点和蕴含的多目标增强摘要

    通过强化学习方法，采用 ROUGESal 和 Entail 两种新的奖励函数优化传统指标 ROUGE，实现多重奖励同时优化的方式来提高摘要生成的效果。实验证明，该方法在 CNN/Daily Mail 数据集上达到了新的最高性能水平，并在测试集合 DUC-2002 中有很大的提高。

    Apr, 2018

  • 基于句法先导的注意力网络用于句子压缩

    本文提出了一种基于 SLAHAN 的序列到序列 (Seq2Seq) 模型，在解码过程中明确跟踪依赖父 / 子词以及捕捉将来将被解码的重要词汇，进而解决了在压缩句子过程中生成不合语法的问题，同时在 Google 数据集上取得了最佳的保留标记 F1、ROUGE-1、ROUGE-2 和 ROUGE-L 分数，同时高效提高了摘要生成性能。

    Feb, 2020