Feb, 2022

叙事生成中实体使用的连贯和一致性探索

PDF
TL;DR本文系统地研究了预训练语言模型在故事生成任务中维持实体连贯性和一致性方面的能力，并提出了动态实体记忆的增强方法，旨在使用辅助实体相关性损失来指导读写实体记忆，以提高实体连贯性和一致性，同时还验证了自动评价指标与人工评价的相似度，从而提出的自动评价指标可以作为生成故事质量的良好指标。
pre-trained language modelsnarrative generationentity coherencedynamic entity memoryautomatic metrics
发现论文，激发创造
  • 利用对比框架学习动态离散实体状态生成连贯的叙述

    本文提出一种基于 Transformer 模型的对话生成算法，在动态更新实体状态以及句子实现方面做了扩展，并引入了对比学习框架来学习状态表示，实验表明其比现有基线算法在生成连贯且多样化的文本方面具有更好的表现。

    Aug, 2022

  • 提升一致性：当你的预训练语言模型未能足够关注时

    本文研究了大语言模型在长范围语义连贯性方面的问题，提出一种名为 “连贯提升” 的推理方法，能够提高语言模型对长内容的关注，通过分布分析证明了连贯提升的优点，并发现其在零样本自然语言处理任务中也能产生性能提升，而无需额外的训练。

    Oct, 2021

  • 神经语言模型中的动态实体表示

    该研究提出了一种名为 EntityNLM 的新型语言模型，可显式建模实体，动态更新其表示，并在特定的上下文中生成其提及。该模型在语言建模、指代消解和实体预测等多个不同任务中表现出色。

    Aug, 2017

  • 朝向连贯且凝聚的长文本生成

    本文提出了一种新的神经语言模型，它具备两个神经鉴别器，可以在句子层面（内聚性）和段落层面（连贯性）提供反馈信号，并且使用了一种称为负关键序列训练的简单而有效的策略梯度方法进行训练。结果表明，相对于基线（基于双向 MLE 训练的复发关注神经语言模型），我们的方法有效改善了模型表现。

    Nov, 2018

  • 通过建模句子级和语篇级连贯性进行长文本生成

    该论文提出了一种基于预训练的长文本生成模型，通过预测句子间语义相似度和区分正常和洗牌句序的两个预训练目标来学习句子和语篇级别的表示，从而能够生成比现有技术更加连贯的文本。

    May, 2021

  • 实体跟踪改善填空式阅读理解

    本文探索基于简单神经方法的阅读理解模型在长期语境处理和记忆显著信息方面的能力，提出了两个扩展方案：增加实体特征和使用多任务跟踪目标进行训练，并在 LAMBADA 数据集上取得了优于当前最先进方法的效果，特别是在难度较高的实体示例中。

    Oct, 2018

  • 面向可计算验证的语言模型语义基础研究

    本文提出了一种语义基础的语言模型方法，将语言模型嵌入到自编码器中，在保持语义解析器冻结的同时通过采样和训练提高了自动生成的文本的流畅度和语义准确性，使用 BLEU 分数和标准解析度量在 English WebNLG 3.0 数据集上进行实验，并通过人工评估验证了自动评估实验的结果。

    Nov, 2022

  • 实体建模的数据生成

    该论文介绍了一种以实体为中心的神经体系结构，用于生成数据到文本的任务，并通过在 RotoWire 基准和棒球领域的新数据集上进行的实验，表明该模型在自动和人类评估上优于竞争基线。

    Jun, 2019

  • 高效易解释的实体追踪神经模型

    本文提出了一种能够以高效的方式对实体进行追踪的模型，它使用预训练的语言模型来表示实体，并将实体追踪集成到语言模型中，为自然语言理解和 NLP 应用带来了很大的便利。

    Aug, 2022

  • 一种用于连贯性建模的多任务学习方法

    本研究提出一种层次神经网络模型，通过多任务学习，同时预测文档层次的信息连贯得分和词级别的语法角色，利用两个任务之间的归纳转移，提高模型泛化能力，并在不同任务中达到了新的最优表现。

    Jul, 2019