May, 2023

多任务学习增强提取式摘要的连贯性

PDF
TL;DR提出了一种多任务学习架构，用于基于从文本中提取摘要，其中包含摘要器和连贯判别器模块，通过预训练的转换模型（基于模型）和转换矩阵（MAT-based）将句子表示合并，实现了可微分训练，并以此最大化了连贯判别器的连贯度分数，并通过人工评估证实了我们方法提高了从原始文章位置开始提取的连续句子的比例以及有效保留了其他自动评估指标。
发现论文，激发创造
  • 面向连贯多文档摘要的提取排序算法

    该研究旨在开发一种在多文档环境中的提取式摘要生成器，使用基于排名的句子选择方法以及连续向量表示和关键短语，并提出了一种模型来解决摘要连贯性问题，以提高可读性。实验结果表明，在信息量和连贯性方面，该方法相对于现有方法有了显著的改进。

    Jun, 2017

  • 通过深度强化学习学习提取连贯摘要

    本文提出了一种名为 RNES 的增强型神经汇总模型，在使用无标签数据的情况下，通过机器学习的方式训练该模型以优化汇总的连贯性和信息重要性，并通过实验证明了 RNES 的性能优于现有的基准模型，达到了 CNN/Daily Mail 数据集的最新性能。

    Apr, 2018

  • 一种用于连贯性建模的多任务学习方法

    本研究提出一种层次神经网络模型，通过多任务学习，同时预测文档层次的信息连贯得分和词级别的语法角色，利用两个任务之间的归纳转移，提高模型泛化能力，并在不同任务中达到了新的最优表现。

    Jul, 2019

  • 基于句子和单词提取的神经摘要

    论文提出了一种基于神经网络和连续句子特征的数据驱动型抽取式摘要方法，采用层级文档编码器和基于注意力机制的提取器的通用框架，能够训练不同的摘要模型（提取句子或单词），在大规模语料库上进行实验结果表明，该方法在不需要语言注解的情况下取得了与现有技术相当的效果。

    Mar, 2016

  • 注意事实：知识增强的连贯抽象文本摘要

    本文提出了一种新颖的基于 Transformer 编码器 - 解码器结构的体系结构，通过将实体级知识与来自 Wikidata 的结构全球知识结合，改善了摘要不够准确和连贯的问题，实验证明该模型对长文本摘要具有较好的 ROUGE 分数的提高效果。

    Jun, 2020

  • 联合学习打分和选择句子的神经文档摘要

    在这篇论文中，我们提出了一种新颖的端到端神经网络框架，通过联合学习对句子进行评分和选择来实现摘要提取。在 CNN / Daily Mail 数据集上的实验证明，我们的方法比现有的抽取式摘要模型表现出更好的效果。

    Jul, 2018

  • 摘要生成中的话语理解和事实一致性

    该研究提出了一种新的基于 Transformer 的 Co-opNet 框架，旨在消除抽象摘要生成中存在的一些问题，如虚构信息，连贯性问题，流故事性等，并通过实验证明，其与竞争基线相比，具有显著的全局连贯性。

    Jul, 2019

  • 自动摘要中冗余与局部连贯性之间的权衡

    使用心理语言学理论，我们在提取式摘要中实现了对不重复且连贯的元素进行排名。这个系统可以控制信息检索量的预算，并通过实验证明在处理冗余文档时提供了更少冗余的摘要。

    May, 2022

  • 基于课程指导的抽象摘要

    本文提出两个方法以弥补 Transformer-based summarization 模型在内容选择方面表现不佳和训练策略效率不高的缺陷，使得模型可以更好的理解要点，同时引入课程学习的方法提高了训练速度和质量，并用 Reddit TIFU 数据集和其他三个跨领域总结测量我们的模型的有效性，同时进行了人类评估表明所提出的方法在流畅性、信息量和整体质量等质量标准上具有良好的效果。

    Feb, 2023

  • 神经抽取式文本摘要与句法压缩

    本文提出了一种基于联合提取和句法压缩的神经模型用于单文档摘要，该模型选择文档中的句子，通过句法分析识别可能的压缩，并用神经模型评分这些压缩以生成最终的摘要，实验结果表明，该模型在 ROUGE 评估中表现良好，能够达到与最先进系统相当的性能，并且其输出一般保持语法正确。

    Feb, 2019