EMNLPSep, 2021

基于模式引导的自然语言生成的风格控制

PDF
TL;DR本研究着重于架构引导的自然语言生成中的风格控制和评估，旨在同时实现语义和风格控制，通过条件训练、引导微调和引导解码等各种控制生成方法的实验来评估其优缺点，并用广泛的自动和人工评估指标来评估，结果表明，使用判别器引导解码更适合处理风格较为语义复杂的任务，同时这种方法也更加可扩展，效果更好。
natural language generationtask-oriented dialogue systemsstylistic controlschema-guided nlggeneration methods
发现论文，激发创造
  • 用神经自然语言生成器控制基于个性的风格变化

    本文探讨了自然语言生成在任务导向对话中的应用，提出了三种序列到序列模型，并考虑如何实现内容和风格的分离，通过控制 36 个风格参数，实现对语义和风格的高度还原。

    May, 2018

  • 在 NLG 中最大化风格控制和语义准确性：个性变化和话语对比

    本研究旨在探索神经生成法如何同时实现语义准确度和文体控制，在两个文体基准任务中，通过在译码器中进行文体调节，消除先前模型中使用的语义再排序器，从而实现了语义误差降至接近零，并在 Personality 中实现了超过 15 个 BLEU 分数的巨大性能提升。在控制对比中还实现了从 0.75 到 0.81 的提升以及语义误差从 16% 降至 2%。

    Jul, 2019

  • 神经语言生成中的语言风格控制

    该研究通过基于条件 RNN 语言模型的方法，控制生成文本的内容和文体风格，并以电影评论领域为例，成功生成了与所需语言风格和内容相一致的连贯句子。

    Jul, 2017

  • 风格转移和内容保留的低层语言控制

    利用低层级的语言控制来生成具备样式特点的文本，有效性较高，进一步为神经文本生成系统添加语言控制。

    Nov, 2019

  • 最近邻语言模型用于风格可控生成

    本文构建并评估了一种基于外部记忆的语言建模方法，利用政治正确、正式性和毒性等属性进行样式控制，结果显示基于样式专用数据存储器的生成性能得到了提高，但仍需在未来的工作中探索预训练数据和特定样式的效果。

    Oct, 2022

  • 筛选和生成：一种用于神经自然语言生成中语义和风格联合控制的语料库和方法

    通过自然描述性用户评论数据免费生成语义和样式标记富文本的可并行结构化意义表示的训练数据集，系统地探索样式标记如何实现神经模型输出的语义和样式联合控制，提出了 YelpNLG，一个跨越不同餐厅属性的高度风格多变的参考文本和富含语义的并行结构化意义表示语料库，实验结果表明该模型可以在保持语义的前提下，成功地达到多个样式目标，包括形容词的词汇选择，输出长度和情感。

    Jun, 2019

  • 用基于条件语义的 LSTM 自然语言生成技术用于口语对话系统

    本研究提出了一种基于语义控制 LSTM 结构的统计自然语言生成器，通过交叉熵训练标准优化句子规划和语言表现，可轻松实现语言变化，并通过两个不同测试域的客观评价和人工评分表明该方法相对于先前方法具有更好的性能和自然度。

    Aug, 2015

  • 学习在任意书写风格中生成文本

    通过对比训练的表示捕捉风格特征，从而引导语言模型以目标风格生成文本，实现满足作者特定风格的生成，而不需要微调底层语言模型。

    Dec, 2023

  • 使用零样本提示学习控制对话中的人格风格

    本文探讨了基于提示的学习在控制自然语言生成模型的人格和语义准确性方面的效果，结果表明，提示生成的输出会产生更好的语义准确性和人格准确性，特别是在语义风格转移提示的情况下，同时没有前人在此方面的探索。

    Feb, 2023

  • 生成对话中的样式控制

    本文将三个先前提出的可控生成结构应用于开放领域对话生成，控制生成的样式以匹配大约 200 种可能的样式之一，并比较它们各自的性能和权衡，展示它们如何提供对现有对话数据集的深入洞察，以及如何生成各种样式的会话回复

    Sep, 2020