神经会话模型中的说话者角色自适应多任务学习

Oct, 2017

神经会话模型中的说话者角色自适应多任务学习

Multi-Task Learning for Speaker-Role Adaptation in Neural Conversation Models

Yi Luan, Chris Brockett, Bill Dolan, Jianfeng Gao, Michel Galley

TL;DR本文提出了一种使用多任务学习方法训练神经会话模型的方式来解决根据具体发言人训练缺乏数据、建立基于角色的会话代理的问题。实验证明该方法显著提高了基线模型的质量，生成更准确地捕捉发言者特征和讲话风格的响应，并且该方法算法简单易实现，不依赖于代表特定个体发言者的大量数据。

Abstract

Building a persona-based conversation agent is challenging owing to the lack of large amounts of speaker-specific conversation data for model training. This paper addresses the problem by proposing a

persona-based conversation agent multi-task learning approach neural conversation models speaker-specific conversation data speaker traits and speaking styles

发现论文，激发创造

多方对话中神经说话人建模：任务、数据集和模型

本文主要探讨了基于神经网络的对话系统中说话者建模的重要性问题，提出将说话者分类作为通用说话者建模的代理任务，并收集大量数据以支持这个方向的研究，进一步研究了基于时间和基于内容的说话者模型，并提出了几种混合模型。实验结果表明，说话者分类是可行的，混合模型表现优异。

Aug, 2017

双语多说话人谈话的上下文神经翻译模型

本文提出了一项翻译双语多说话者会话的任务，并探索了利用源语言和目标语言会话历史的神经网络架构，在 Europarl v7 和 OpenSubtitles2016 数据集上的实验证实了利用对话历史的重要性。

Sep, 2018

基于角色的神经对话模型

本文介绍了基于人物角色的模型来处理神经响应生成中的发言人的一致性问题。这些模型在分布式嵌入中编码人物角色，以捕捉个体特征，如背景信息和口语风格。在两个交流者之间捕捉交互属性的暂态发言人 - 被称呼者模型。我们的模型提高了感性和 BLEU 得分，在发言人的一致性上也有类似的提高。

Mar, 2016

面向口语对话的任务导向对话建模的通用模型

本文介绍了我们在 DSTC-10 上构建对话模型的方法。为缩小口头和书面数据之间的差距，我们采用了大量数据扩增策略，包括人工误差注入和文本转语音转换。我们改良了预训练语言模型，并对每个子任务应用了集成算法，以训练稳健的口头对话模型。我们的方法在官方评估中排名第三，在最终的正式人类评估中排名第二。

Mar, 2022

改进角色感知对话数据集的双重任务框架

本文介绍了一种简单而有效的数据中心方法，用于改善个性化对话代理。通过利用针对两个任务的原始 - 对偶结构（预测对话响应和个人资料之间的联系），我们增强了相关人物角色，以改进对话数据集 / 代理，并修复了基准数据集的注释问题，其巨大地增加了模型的精度，体现在 Persona-Chat 上的实验中，我们的方法在准确性上比预训练 LM 高出 11.7 个百分点。

Feb, 2022

大规模知识库对话问答的多任务学习

本论文提出了一种基于多任务学习的框架，通过引入指针设备的语义解析模型和新型类型感知实体检测模型，实现共享监督信号、减轻误差传播影响，并在大规模对话问答数据集上进行实验，将总体 F1 分数从 67％提升到 79％。

Oct, 2019

多任务端到端训练改善对话式推荐

本文基于 T5 文本转文本的 transformer 模型，将多任务端到端模型应用于对话推荐任务，实现了推荐相关项目和生成对话的双重目标，其中多任务学习和来自 ReDIAL 数据集的探针研究得到了应用。

May, 2023

低资源口语理解的多任务学习

本研究探讨了多任务学习在语音处理中的优势，通过使用自动语音识别和意图分类或情感分类的双重目标来训练模型，我们的模型虽然规模适中，但我们的研究表明多任务学习可以在低资源情况下与基线模型竞争，并且在情感分类上表现与端到端模型相当。

Nov, 2022

目标导向对话中的个性化

本文提出了一种基于个人资料的目标导向对话数据集，结合修改内在神经系统结构、使用多任务学习的方法，将个性化应用于对话系统。

Jun, 2017

面向对话代理的持续学习

本文介绍了一种基于最新的神经网络连续学习技术的领域无关的神经对话模型，同时提出了一种新颖的神经连续学习算法，能够以数据 - 效率的方式跨越不同任务积累技能，在客户支持领域通过从合成对话或人类之间的对话到人 - 计算机对话的连续技能转移来验证方法的功效。

Dec, 2017