May, 2018

为提高语义一致性，正则化中国社交媒体抽象文本摘要的输出分布

PDF
TL;DR本文探讨了抽象文本摘要中生成内容与原文义不相符的问题，并提出了以正则化为基础的序列到序列模型和实用人工评估方法以解决问题。实验结果表明，该方法在提高人工评估的语义一致性方面比以前的模型有效。
abstractive text summarizationsequence-to-sequence modelregularization approachhuman evaluation methodsemantic consistency
发现论文，激发创造
  • 提升语义相关性，用于中文社交媒体文本摘要的序列到序列学习

    本文通过引入一种基于语义相关性的神经模型，旨在提高汉语社交媒体摘要中源文本和摘要之间的语义相关性，使用编码器 - 解码器框架，通过最大化表示之间的相似性得出结论，实验表明，该模型在社交媒体语料库上优于基线系统。

    Jun, 2017

  • 自编码器作为助理监督器：改进中文社交媒体文本摘要的文本表示

    本研究针对社交媒体长且嘈杂的内容难以准确表达的问题，使用自编码器协助训练 Seq2Seq 模型，通过监督源内容与摘要的表征学习，实现抽象文本摘要生成并在基准数据集上取得了最先进的性能。

    May, 2018

  • 通过重新引用源文本进行抽象文档摘要的预训练

    该论文提出了三个预训练目标，并基于未标记的文本对 Seq2Seq based abstractive summarization model 进行预训练，从而在有限的监督 summarization data 上改进其性能，这三个目标与 abstractive document summarization task 有密切关联。实验结果表明，这三个目标均能改进模型性能，且仅使用 19GB 的文本进行预训练即可与使用大规模数据集预训练的模型达到可比较的效果。

    Apr, 2020

  • 文本摘要中的抽象化改进

    提出使用上下文相关网络和预训练的语言模型来提高抽象文本摘要的生成水平和使用新颖度度量来优化生成的摘要，从而实现比现有方法更高水平的摘要生成。

    Aug, 2018

  • 为文本摘要增加和掌控全球语义

    本研究介绍并应用了一种神经主题模型以及归一化流以捕捉文档的全局语义，并将其整合到摘要模型中，以解决 Transformer-based 模型在摘要生成中存在的短程依赖问题，同时在五个常用文本摘要数据集上表现优于现有方法。

    Sep, 2021

  • 抽象文本摘要中的事实不一致问题：一项调查

    研究表明，使用神经编码器 - 解码器模型等抽象方法能够更好的进行生成摘要，但是由于摘要的抽象性较高，导致文章中存在失真和伪造的问题，因此当前的研究主要集中在设计新的评估算法和开发新的摘要系统以解决这一问题。本文综合评述了这些基于事实的评估方法和文本摘要模型。

    Apr, 2021

  • 改进序列到序列模型，使用元启发式方法进行抽象文本摘要

    在信息时代，人们阅读冗长的新闻文章的时间越来越少，提供简洁的信息摘要变得比以往任何时候都更为重要。本文旨在改进现有的架构和模型，针对抽象文本摘要进行微调超参数，并尝试特定的编码器 - 解码器组合，以提高摘要生成的效果。

    Mar, 2024

  • 基于语义相关性的神经网络文本摘要与简化

    本文介绍了一种基于语义相关性的神经模型，用于促进文本摘要和语言简化的源文本和简化文本之间高度的语义相似性。

    Oct, 2017

  • 使用序列到序列 RNN 及其扩展进行抽象文本摘要

    该研究使用注意力编码 - 解码循环神经网络模型抽象化文本摘要，并在两个不同的语料库上展示其实现最先进的性能。同时，该研究还提出了几种解决文摘中的关键问题的新模型，比如建模关键词、捕捉句子到单词结构的层次以及提取训练时很少出现的单词等。此外，研究还建立了一个多句子的文摘数据集，以便后续的新研究能建立性能基准。

    Feb, 2016

  • 评估抽象文本摘要的事实一致性

    该研究提出了一种弱监督、基于模型的方法来验证摘要的事实一致性，并鉴别来源文献和生成的摘要之间的冲突。

    Oct, 2019