ACLJul, 2021

使用多步骤情节马尔可夫过程的长文档摘要提取

PDF
TL;DR本论文介绍了一种基于强化学习并且能够逐步提取文本摘要的 MemSum 摘要器，它在每一步都可以使用包括文本内容、全局文本上下文和提取历史在内的信息集合来决定摘要中摘录哪些句子；经对 PubMed、arXiv 和 GovReport 等长文档进行测试，该轻量架构模型的 ROUGE 性能处于领先水平；消融研究证明了局部、全局和历史信息的重要性；人类评估也印证了 MemSum 生成的摘要质量高且冗余度低。
extractive summarizermarkov decision processreinforcement learninginformation extractioniterative
发现论文，激发创造
  • GoSum：基于强化学习和有机化图论的长文本摘要

    本文提出了一种基于图谱和强化学习的模型 GoSum 来对包含多个篇章的科研文章进行摘要生成，该模型在两个公开数据集上取得了最优结果，验证了结果的鲁棒性。

    Nov, 2022

  • 基于混合记忆网络的文摘提取模型

    本研究提出了一种称为混合记忆网络的全数据驱动端到端深度网络，用于单个文档摘要任务，其通过联合捕获局部和全局句子信息以及摘要有价值的句子的概念来学习文档的连续统一表示，实验结果表明，与现有最先进的基线相比，该模型展示了显著的性能提升。

    Dec, 2019

  • MemSum-DQA：将高效的长文档抽取式摘要器用于文档问答

    基于长文档摘要技术的 MemSum 工具，我们介绍了一种高效的文档问答系统 MemSum-DQA。通过将解析的文档中的每个文本块与给定的问题和问题类型相结合，MemSum-DQA 能够有选择性地提取文档中的文本块作为答案。在整个文档回答任务中，该方法的准确匹配精度比现有最先进的基线方法提高了 9%。值得注意的是，MemSum-DQA 在处理与子与亲属关系理解相关的问题方面表现突出，凸显了摘要提取技术在文档问答任务中的潜力。

    Oct, 2023

  • 美国法院裁决的法律摘要提取

    本研究基于一个标注过的含 430K 篇美国案例的数据集，使用强化学习算法构建了 MemSum 模型，在自动摘要质量评测中表现最佳，甚至胜过了基于 transformer 的模型。同时，人工评测也证明 MemSum 的摘要能够有效捕捉到庞大而冗长的法律案例的关键点。鉴于这些结果，我们将模型开源，旨在推动法律民主化进程，提高公众获取美国法律案例的能力。

    May, 2023

  • 生成长文档的扩展摘要

    本研究基于多任务学习方法，利用文件的层次结构生成长篇文献的扩展摘要，并在三个大型数据集上验证其优于其他强基准模型的性能，为长篇文献摘要生成任务的未来研究提供了深入的洞见。

    Dec, 2020

  • MeanSum: 一种用于无监督多文档抽象摘要的神经模型

    本文提出了一种基于神经网络的无监督自动编码器架构，用于进行商品评论的抽象摘要，通过自动化指标和人类评估表明，该模型生成的摘要高度抽象、流畅、相关，并代表了输入评论的情感倾向。

    Oct, 2018

  • 非参数记忆引导的多文档摘要

    我们提出了一种用于摘要生成的检索引导模型，结合了非参数记忆。该模型使用近似最近邻搜索从数据库中检索相关的候选文本，然后利用复制机制和源文档生成摘要。我们在包括科学文章的 MultiXScience 数据集上评估了我们的方法，并讨论了我们的结果和未来工作的可能方向。

    Nov, 2023

  • 结合全局和局部上下文的长文档摘要提取

    本文提出了一种新颖的神经网络抽取式文档摘要模型，结合整个文档的全局上下文和当前主题内的局部上下文；我们在 Pubmed 和 arXiv 两个科学论文数据集上评估了该模型，并在 ROUGE-1，ROUGE-2 和 METEOR 分数上优于以前的工作，包括抽象模型和提取模型；更为惊讶的是，消融分析表明，我们的模型的好处似乎仅来自于对局部上下文的建模，即使对于最长的文档。

    Sep, 2019

  • DiffuSum: 借助扩散增强的抽取式摘要生成

    这篇论文提出了一个新的提取性摘要范式，名为 DiffuSum，通过扩散模型直接生成所需的摘要句子表示，并根据句子表示匹配来提取句子，并通过多类对比损失对表示多样性进行优化，实验结果表明 DiffuSum 在 CNN / DailyMail 上实现了新的最先进的提取结果，ROUGE 得分为 $44.83 / 22.56 / 40.56$，并且在其他两个数据集上的实验结果也表明了 DiffuSum 的有效性。

    May, 2023

  • Summaformers @ LaySumm 20, LongSumm 20

    本文探讨了利用 Transformer-based 系统概括多领域科学研究论文的问题，并设计了两种不同类型的概述手段，即 LaySumm 和 LongSumm，使用 ROUGE 指标有效评估了本文系统的优越性。

    Jan, 2021