Few-Shot 学习下的对话风格迁移

Feb, 2023

Conversation Style Transfer using Few-Shot Learning

Shamik Roy, Raphael Shu, Nikolaos Pappas, Elman Mansimov, Yi Zhang...

TL;DR本文提出了一种基于对话样式迁移的 few-shot 学习模型，采用上下文学习的方式解决了对话风格转移中传统方法受限的问题，并且在多轮对话中的人工评估中，模型的话语匹配目标风格且语义正确性和合适性方面表现更好。此外，实验还表明，该模型可用于下游任务 —— 在将训练集的风格转移到测试集的情况下，多领域目标分类任务的 F1 得分有所提高。

Abstract

Conventional text style transfer approaches for natural language focus on sentence-level style transfer without considering contextual information, and the style is described with attributes (e.g., formality). When applying style transfer on conversations such as task-oriented dialogues, existing approaches suffer from these limitations as context can play a

conversation style transfer few-shot learning in-context learning multi-turn context intent classification

发现论文，激发创造

上下文文本风格转换

提出了一种基于上下文文本风格转换的新任务和模型，旨在实现高质量的自然上下文保留的风格转换，并通过引入半监督学习等机制，提出了一种用于训练稳健模型的方法，同时介绍了两个新的基准数据，实验结果表明，该模型在准确性、内容保全和上下文一致性等指标上显著优于其他方法。

Apr, 2020

低资源多语言环境下的小样本可控风格转移

本研究提出一种模型来进行 few-shot 风格转换，实现在没有风格标注的语言中的低资源风格转换；并使用该模型在风格转换、情感转换、文本简化、性别中立化和文本匿名化等需求中实现了 2-3 倍的性能提升。

Oct, 2021

文本风格转换：探索与评估

本文提出使用对抗网络以学习分离内容表示和风格表示的方法来解决自然语言处理中的样式转移问题，并提出了新的评估指标来测量样式转移的转移强度和内容保留。作者在文章 - 新闻标题转移和正面 - 负面评论转移两个任务上评估了模型和指标，结果表明，所提出的模型的样式转移强度和内容保留得分比自动编码器更高，内容保留度指标与人类判断高度相关。

Nov, 2017

风格转换作为无监督机器翻译

本文提出一种使用无监督机器翻译方法来实现自动语言风格转换的方法，利用样式偏好信息和单词嵌入相似性来生成伪平行数据，并采用迭代回译方法来联合训练两个神经机器翻译（NMT）系统，其中引入样式分类器来控制噪声。实验表明，该方法在语言风格转换的精确度和输入输出对应质量方面优于以前的现有模型。

Aug, 2018

从具有任意未知样式的句子进行语言风格转移

该研究论文介绍了一种利用内容和风格潜在表示进行语言风格转换的方法，并证明了该模型在餐厅评论情感修改、浪漫风格对话回复和莎士比亚风格语句重写等三种任务中具有有效性。

Aug, 2018

基于对比学习的梯度导向无监督文本风格转换

本文提出了一种基于对比学习范式的新型文本风格转换模型，通过明确收集相似语义句子和设计基于孪生模型的风格分类器，以解决文本样式转换中的内容迁移和样式歧义等问题。针对这些问题，实验结果表明，该模型比现有技术更加有效。

Jan, 2022

他说她说：对话视角转换的风格转移

本文定义了一个新的风格转移任务：视角转换，展示了如何利用该任务提高对话纵观述和新闻摘要模型的性能。

Oct, 2022

半监督文本风格转换的传导学习

本研究提出了一种基于检索的上下文感知风格表示的传导学习方法，使用具有检索器框架的注意力编码器 - 解码器，并涉及目标风格中前 K 个相关句子，以减轻非一致性问题。经实验证明，该方法优于几种强基线方法，并且具有广泛且有效的传导学习方法适用于无监督风格转移任务。

Sep, 2021

在内容保持的风格转换方面，不要在改写时丢失信息

文本风格转换方法在自然语言处理中越来越受欢迎，允许将文本从有毒到神经、从正式到非正式、从古老到现代英语等形式进行改写。在一些应用中，解决这一任务不仅仅是生成一些神经 / 非正式 / 现代化的文本，更重要的是保持原始内容不变。通过比较各种风格转换模型在正式转换领域的实例，我们对各种风格转换方法的内容保留能力进行了研究。我们创建了一个形式与非正式任务导向的对话的平行数据集，与 GYAFC 等现有数据集的关键区别是包含了必须在改写过程中保留的预定义语义槽，例如命名实体。这个额外的注释允许我们对几种最先进的风格转换技术进行精确的对比研究。我们研究的另一个结果是对无监督方法 LEWIS 进行改进，在所提出的任务中取得了明显的改进，优于原始方法和所有评估的基准方法。

Aug, 2023

基于转移学习和 Adapter 的无监督神经风格文本生成

本文提出一种迁移学习框架，通过更新模型参数的 0.3％来学习响应生成的特定风格属性，解决了在话务系统中保持一致的人物形象和风格的问题。研究表明，个性是改善会话系统参与度和用户体验的关键驱动因素。同时，本研究通过在 ROC 故事语料库中研究风格故事结尾生成问题，从 PERSONALITY-CAPTIONS 数据集中学习风格特定属性，并通过大量实验和评估表明，该新颖的训练方法可以提高风格生成的效果。

Oct, 2022