ACLMay, 2020

SOLOIST: 基于迁移学习和机器教学的大规模任务机器人构建

PDF
TL;DRSOLOIST 是一种利用迁移学习和机器教学构建任务机器人的新方法。我们使用基于 Transformer 的自回归语言模型对经典的模块化面向任务的对话系统进行参数化，可以通过机器教学将预训练模型高效地适应完成新任务。该预训练模型在 CamRest676 和 MultiWOZ 等基准测试中取得了最新的最佳表现。
发现论文，激发创造
  • 朝向自学习的端到端任务导向对话系统

    本文研究了如何通过自学习的方式使得 Task Bots 自适应于动态环境，并提出了 SL-AGENT 框架，该框架包含一个对话模型和一个预训练的奖励模型，能够在无需或最小化人工标注的情况下通过强化学习在人机交互中学习，并在自动和人工评估中证明其有效性。

    Jan, 2022

  • 基于网络的端到端可训练任务导向式对话系统

    本文介绍一种基于神经网络的端到端可训练的目标导向对话系统，以及一种新的数据收集方法，该方法基于一种新型的管道式 Wizard-of-Oz 框架。该方法可用于开发对话系统，帮助用户在餐厅搜索领域自然地交流并完成任务。

    Apr, 2016

  • 自训练提高了面向任务的对话系统中 Few-shot 学习的预训练

    研究通过自我训练的方法，利用大量未标记的对话数据进一步改进预先训练的模型，以应对高昂的对话系统不同模块的标注成本问题，并证明该方法在少量标记数据可利用时可以一致提高现有预先训练模型的性能。

    Aug, 2021

  • 神经会话模型中的说话者角色自适应多任务学习

    本文提出了一种使用多任务学习方法训练神经会话模型的方式来解决根据具体发言人训练缺乏数据、建立基于角色的会话代理的问题。实验证明该方法显著提高了基线模型的质量，生成更准确地捕捉发言者特征和讲话风格的响应，并且该方法算法简单易实现，不依赖于代表特定个体发言者的大量数据。

    Oct, 2017

  • 使用基于 Transformer 的意图识别和问答架构进行对话 AI 教学的 Build-a-Bot 项目

    本文介绍了一个名为 Build-a-Bot 的开源工具，它可以帮助学生和教师创建基于自己课程材料的聊天机器人，从而学习人工智能的基础原理。该工具主要使用自然语言处理的技术，通过训练一个定制化的模型来回答问题，旨在教授学生数据收集、数据增强、意图识别和问题回答等技能，使得之前的黑盒式聊天机器人工具得以升级。该工具设计的特别适合中学生使用，未来的工作重心是将其提供给学校，并获取学生和教师的评估。

    Dec, 2022

  • 面向任务的对话与上下文学习

    使用大型语言模型（LLMs）的上下文学习能力与业务逻辑的确定执行相结合，描述了一种构建面向任务的对话系统的系统。与主要用于行业的基于意图的 NLU 方法相比较，我们的实验表明，使用我们的系统开发聊天机器人所需的工作量明显较少，这些聊天机器人可以成功地进行复杂对话，并且我们的系统对于大规模任务导向的对话系统具有可扩展的有益特性。我们提供了我们的实现用于使用和进一步研究。

    Feb, 2024

  • MinTL：面向任务的对话系统的极简迁移学习

    该论文介绍了最小化转移学习 (MinTL) 方法，该方法为任务导向的对话系统简化了系统设计过程，并减少了对注释数据的依赖。MinTL 是一个简单而有效的迁移学习框架，允许我们插入预训练的 seq2seq 模型，并共同学习对话状态跟踪和对话响应生成。

    Sep, 2020

  • InstructTODS: 大型语言模型用于端到端任务导向式对话系统

    通过利用大型语言模型，InstructTODS 提供了一种零训练样本的端到端任务导向式对话系统的框架，可以适应多样领域并有效地将用户意图转化为查询，而且在帮助性、信息性和人性化方面明显优于黄金标准回复及现有技术的 TODS。

    Oct, 2023

  • 基于预训练语言模型的任务导向对话系统研究 —— 以 GPT-2 为例

    本研究探讨了数据稀缺对于多领域任务导向对话系统快速发展的限制，并提出了一种基于 TransferTransfo 和生成模型预训练的对话模型，并在 MultiWOZ 数据集上进行了验证，结果显示该模型可以有效地绕过显式策略和语言生成模块来实现对于任务的导向和推理。该方法有望缓解数据稀缺问题，进而支持构建更具吸引力和更流畅的任务导向的对话代理人。

    Jul, 2019

  • 对话学习器 -- 用于构建任务导向对话系统的对话管理器的机器教学工具

    该研究论文提出了 Conversation Learner，一种结合了规则导向对话管理和基于机器学习的参数模型的机器教学工具，可以通过利用用户和系统之间的对话日志作为训练数据，帮助对话作者构建灵活应对复杂对话的对话管理器。

    Apr, 2020