ACLJul, 2023

通过对比奖励学习提高抽象摘要生成的准确性

PDF
TL;DR通过对比学习框架和事实度指标的最新发展，本文提出了一种简单而有效的对比学习框架，实证研究表明该框架能够通过对比奖励学习从事实度指标的反馈中学习，从而在人类评估中生成更加符合事实的摘要，这表明学习和评估算法的进一步发展可直接提供更加符合事实的摘要。
abstractive summarization modelscontrastive learning frameworkreward learningfactuality metricsfactual summaries
发现论文，激发创造
  • 提高抽象摘要的事实性而不牺牲摘要质量

    本文提出了一种名为 EFACTSUM 的候选摘要生成和排名技术，旨在在不牺牲摘要质量的前提下提高摘要的事实性。通过使用对比学习框架并结合两个度量，训练出的模型在 XSUM 和 CNN / DM 上相对于基本模型均有显著的事实性和相似性改进。

    May, 2023

  • CLIFF: 用对比学习提高摘要的忠实度和事实性

    通过对比学习和负样本生成，提出一个能够生成与给定文章相符的抽象摘要的方法，并使用 QA 验证和人类评判证明其能够更准确地反映事实。

    Sep, 2021

  • 通过问答提高摘要生成的事实一致性

    本文提出了一种解决摘要生成模型中可能存在错误信息的方法，策略包括评估指标度量、新型学习算法、人工评估等，并通过大量实验证明该方法对提高信息事实准确性和提高摘要整体质量都非常有效。

    May, 2021

  • 论抽象化摘要中的忠实度与客观性

    分析了神经文本生成模型在抽象文档摘要生成方面的局限性，并发现这些模型非常容易产生虚假内容。人类评估显示，预训练模型生成的摘要不仅在原始度量标准（即 ROUGE）方面更好，而且在生成忠实和真实摘要方面也更好，文本蕴含度量更好地相关于忠实度，有可能成为自动评估度量标准以及训练和解码标准的前景。

    May, 2020

  • 使用文本蕴含反馈的强化学习实现事实一致性摘要

    本文介绍一个基于文本蕴涵模型和强化学习的方法，用于优化提取式摘要的准确性和一致性，并在自动度量和人类评估上显示出较好的性能。

    May, 2023

  • 提高抽象摘要的事实一致性

    文章提出了一种基于事实感知的自动摘要模型 FASum，通过图注意力来提取和整合摘要生成过程中的事实关系，并设计了一个名为 FC 的事实校正模型来自动纠正现有系统生成摘要中的事实错误。实证结果表明，基于事实感知的自动摘要可以生成具有更高事实一致性的抽象摘要，并且纠错模型通过只修改少量关键词就可以提高给定摘要的事实一致性。

    Mar, 2020

  • 优化摘要的事实准确性：放射学报告摘要研究

    该研究提出了一个基于强化学习的训练策略，通过信息提取模块评估生成摘要的事实正确性，以优化称述的正确性。在将该策略应用于放射学摘要中时，得到的摘要输出在事实正确性和整体质量方面均优于竞争的神经网络摘要系统。

    Nov, 2019

  • 抽象文本摘要中的事实不一致问题：一项调查

    研究表明，使用神经编码器 - 解码器模型等抽象方法能够更好的进行生成摘要，但是由于摘要的抽象性较高，导致文章中存在失真和伪造的问题，因此当前的研究主要集中在设计新的评估算法和开发新的摘要系统以解决这一问题。本文综合评述了这些基于事实的评估方法和文本摘要模型。

    Apr, 2021

  • 摘要生成中的话语理解和事实一致性

    该研究提出了一种新的基于 Transformer 的 Co-opNet 框架，旨在消除抽象摘要生成中存在的一些问题，如虚构信息，连贯性问题，流故事性等，并通过实验证明，其与竞争基线相比，具有显著的全局连贯性。

    Jul, 2019

  • 基于微调的抽象摘要模型的实体级事实可适应性

    通过分析对知识冲突的鲁棒性，本文研究了基于微调的抽象概括模型，发现并引入了一种可控的反事实数据增广方法来增强事实适应性，并在两种预训练语言模型（PEGASUS 和 BART）以及两个微调数据集（XSum 和 CNN/DailyMail）上实验证明，该方法在实现原始数据集上的事实一致性的同时提高了事实适应性。

    Feb, 2024