EMNLPOct, 2022

基于 GPT 架构和目标状态跟踪的增强式多领域对话系统的生成式用户模拟器

PDF
TL;DR本文提出了一种以 GPT-2 模型为基础，利用目标状态追踪的生成式用户模拟器（GUS）来解决用户模拟器训练时遇到的挑战，并在 MultiWOZ2.1 数据集上通过交叉模型评估、基于语料库的评估和人类评估等方法对训练出的多个对话系统进行对比，证明了 GUS 在三个评估任务中的表现均优于基于议程的用户模拟器（ABUS）和其他削减模拟器。
user simulatorreinforcement learningdialog systemspretrained language modelsgoal state tracking
发现论文，激发创造
  • 简化生成结构的用户模拟器和任务驱动对话系统的联合强化学习

    本研究首次探讨了使用在线增强学习的基于 GPT-2 的对话系统和端到端用户模拟器，并提出了简化的生成架构作为 DS 和 US 的模型，使用缩短的历史，同时展示了 SGA-JRUD 模型在离线和在线评估中的优异表现。

    Oct, 2022

  • GenTUS: 基于生成式 Transformer 技术的任务导向对话中用户行为和语言模拟

    本文提出了一个基于生成式变形器的用户模拟器（GenTUS），它可以同时优化用户策略和自然语言生成，并生成语义动作和自然语言话语，保持可解释性和增强语言变异。它还利用大型预训练语言模型，将输入和输出表示为单词序列，从而实现特征表示的可泛化性。评估结果表明，GenTUS 生成的自然语言更真实，能够在没有先验知识的情况下转移到未见过的本体，并且可以通过强化学习进一步优化行为，从而为训练专门的用户模拟器打开了大门。

    Aug, 2022

  • 基于可靠 LLM 的任务导向对话系统用户模拟器

    DAUS 是一种基于大型语言模型的领域感知用户模拟器，通过在真实的面向任务对话示例上进行微调，显著提高用户目标的实现，并有效减少模拟器回应中的不一致性来源。

    Feb, 2024

  • 面向任务对话的用户建模

    本论文提出一种基于神经网络的端到端用户仿真模型，用于对话系统的自动评估和训练，采用分层序列到序列模型，并利用隐变量模型引入随机变化，以提高仿真用户响应的多样性，并制定了目标正则化机制，以惩罚用户对初始用户目标的偏离。

    Nov, 2018

  • KAUCUS: 知识增强的用户模拟器用于训练语言模型助手

    通过引入 Kaucus，一种知识增强的用户模拟器框架，我们使用基于 GPT-J 的检索增强模拟器和摘要控制模拟器生成多样化的模拟器－助手交互数据，进而发现这些交互数据作为有用的训练数据，可以创建更好的下游助手。同时，我们发现通过检索增强或摘要控制的方式融入知识有助于创建更好的助手。

    Jan, 2024

  • 通过 LLM 支持的用户代理模拟增强对话状态跟踪模型

    利用 GPT-4 生成对话数据，通过在 LLaMA 2 上进行两阶段的微调，减少对话收集和注释成本，并表现出比仅使用真实数据训练的基准模型更好的性能，同时适应实际场景中的动态需求。

    May, 2024

  • GenSim：通过大型语言模型生成机器人仿真任务

    通过使用语言模型生成丰富的仿真环境和专家演示，在模拟数据上进行多任务策略训练，极大地增强了任务级泛化能力，并实现了对未见过的现实任务的强大转移能力。

    Oct, 2023

  • 使用大型语言模型进行任务导向对话评估的用户模拟

    为了推动自动化任务导向对话系统的评估，本研究提出了一种基于预训练语言模型的新型用户模拟器，并通过上下文学习来生成具有鲁棒性和语言多样性的输出，以模拟人类对话行为。通过与现有对话系统交互，并收集人机交互数据集，验证了该用户模拟器在单一意图对话目标方面的表现与人类相似。

    Sep, 2023

  • UBAR：基于 GPT-2 的全端到端任务导向对话系统

    该研究介绍了一种基于任务的对话系统 UBAR，使用 GPT-2 对话会话级别的序列进行微调，实现了任务导向对话的完全端对端建模，能在多种设置下取得领先的性能。

    Dec, 2020

  • 基于序列到序列模型的口语对话系统用户模拟

    本文介绍了一种基于编码 - 解码循环神经网络的数据驱动用户模拟器，能够更具上下文准确输出用户意图，相较于基于议程和 n-gram 的模拟器，在 DSTC2 数据集上获得更高的 F-score，展示了更精细分类用户行为的能力。

    Jun, 2016