面向查询的抽象化摘要生成：将查询相关性、多文档覆盖和摘要长度约束融入 seq2seq 模型中

Jan, 2018

面向查询的抽象化摘要生成：将查询相关性、多文档覆盖和摘要长度约束融入 seq2seq 模型中

Query Focused Abstractive Summarization: Incorporating Query Relevance, Multi-Document Coverage, and Summary Length Constraints into seq2seq Models

PDF

Tal Baumel, Matan Eyal, Michael Elhadad

TL;DR本文探讨了将抽象化方法应用于面向查询的摘要 (QFS) 以产生高一致性的文本，阐述了如何将 query relevance 纳入预训练的抽象化模型、如何嵌入多文档要求和如何将目标大小调整到给定的比例。我们将我们的方法与提取基线和各种组合抽象化模型的方法进行比较，并在 DUC QFS 数据集上展示了对 ROUGE 性能的实质性改进。

Abstract

query focused summarization (QFS) has been addressed mostly using extractive methods. Such methods, however, produce text which suffers from low coherence. We investigate how abstractive methods can be applied to

query focused summarization abstractive methods neural-attention based sequence-to-sequence models relevance sensitive attention rouge performance

发现论文，激发创造

探索面向查询的摘要的神经模型

本文系统地探讨了神经网络方法在以查询为中心的自动文摘 (QFS) 中的应用，涉及了两种分类：抽取式 - 生成式和端到端模型，并提出了两种模型扩展。这些方法在 QMSum 数据集上实现了最先进的性能，并通过人类评估实现了更全面和基于事实的自动文摘。

Dec, 2021

利用答案相关性提高查询聚焦主题摘要

本研究提出了基于问题回答模型的 QFS-BART 模型，通过显式的答案相关性，生成连贯且与答案相关的摘要，并在 Debatepedia 数据集上取得了最新的最优性能。

May, 2021

从无需查询的资源中生成查询聚焦型摘要

该研究提出了一种基于神经网络的 MaRGE 模型，通过弱监督学习从支持证据中生成查询模型和自动生成摘要，从而实现基于查询的自动摘要，在查询爆炸性增长和追踪信息的需要下，取得了最先进的表现。

Dec, 2020

基于查询聚焦的多文档概括及远程监督

本研究提出了一种基于问题回答的粗糙到精细的建模框架，用于解决过去在建立查询与文本段之间关联性上面的问题，并在标准 QFS 基准测试中表现优异。

Apr, 2020

针对查询聚焦摘要比较显著内容的 QontSum

该论文提出了一种利用对比学习来改进模型关注输入文档中最相关区域的新方法 QontSum，应用于基于查询的摘要生成，强调 QFS 在 Gen-IR 中 Grounded Answer Generation（GAR）上的作用，并通过基准测试数据集和人类评估说明了它的有效性和实用性。

Jul, 2023

面向查询的轻量级约束生成式摘要方法

本研究提出一种基于约束生成模型 Neurological Decoding 的查询聚焦摘要算法，避免了额外的参数和训练，使用轻量的梯度归因模型从文档中提取重要的标记，并通过操作最终词汇似然使生成的摘要满足这些约束条件。该方法在两个公共 QFS 集合上表现出与最先进模型相近的有效性。

Apr, 2023

强化取代监督：使用深度强化学习进行查询聚焦摘要

提出了一种使用强化学习和多个策略梯度网络的查询导向摘要生成方法，通过改进语义相似性奖励以及使用聚类假设构建的段落嵌入方案，显著提高了生成文本质量和性能。

Nov, 2023

查询 - 话语关注与联合建模用于查询聚焦会议摘要

本文提出了一种基于 Query-Utterance Attention 的查询感知框架，通过密集检索模型计算与查询的话语级相关性，同时将标记级查询相关性和话语级查询相关性组合，并明确地将其合并到生成过程中的注意机制中以生成与查询更相关的摘要，实验结果表明，该模型在 QMSum 数据集上实现了新的最优表现。

Mar, 2023

提高抽象化摘要中的忠实性

本研究提出了 Faithfulness Enhanced Summarization (FES) 模型，该模型使用 question-answering (QA) 技术检查 encoder 是否完全理解输入文档，并回答关键信息的问题，并引入 max-margin loss 来防止语言模型的过度自信。实验表明，我们的模型在两个基准摘要数据集 CNN/DM 和 XSum 上显著优于强对比模型，并生成比对比模型更符合事实的摘要。

Oct, 2022

通过重新引用源文本进行抽象文档摘要的预训练

该论文提出了三个预训练目标，并基于未标记的文本对 Seq2Seq based abstractive summarization model 进行预训练，从而在有限的监督 summarization data 上改进其性能，这三个目标与 abstractive document summarization task 有密切关联。实验结果表明，这三个目标均能改进模型性能，且仅使用 19GB 的文本进行预训练即可与使用大规模数据集预训练的模型达到可比较的效果。

Apr, 2020