Apr, 2024

使用状态转换图和大型语言模型模拟任务导向型对话

HTML
PDF
TL;DR该研究探讨了SynTOD，一种用于开发端到端任务导向对话系统的新型合成数据生成方法，该方法能够处理意图分类、槽填充、对话问答和检索增益响应生成等复杂任务，而无需依赖众包或现实世界的数据。实验结果显示，使用受图引导的响应模拟能够显著提高意图分类、槽填充和响应相关性，相较于单一提示的模拟对话。该研究还调查了不同基础和指导调整的大型语言模型在端到端任务导向对话系统上的有效性，并探索了它们在评估回应和与人类判断之间的相关性。这些发现为领域特定的任务导向对话系统的快速开发和评估铺平了道路。研究团队还发布了用于研究目的的数据集、模型和代码。
发现论文，激发创造
  • 将面向任务和开放域对话融合于对话代理中

    本文介绍了把目标导向式对话任务（TOD）系统和非目标导向闲聊式对话系统（ODD）结合起来的难题，并基于流行的TOD数据集MultiWOZ构建一个包含两种对话模式交替的新数据集FusedChat，提供一种更具挑战性的基准测试，以测试对话模型在处理交叉模式上的表现。该数据集具有丰富的依赖模式，包括共示和省略，并提供了分类和融合等基线模型。

    Sep, 2021

  • 任务导向对话系统语言模型比较研究

    本研究比较了使用最新的预训练模型，如 BART 和 T5 对任务导向对话系统的端到端训练的效果和强度，实验结果表明在语言模型微调后，模型生成的响应更流畅、更准确，BART 和 T5 在 BLEU 和 F1 分数方面胜过 GPT-based models，达到了任务导向对话系统的最先进水平。

    Jan, 2022

  • 以响应选择为辅助任务的高效任务导向型对话系统

    本文提出两种具有辅助任务的模型，用于响应选择，并在MultiWOZ 2.1数据集上取得了107.5和108.3的综合分数，优于具有三倍以上的参数基线模型。

    Aug, 2022

  • 当前任务导向的对话模型能否自动化野外实际情境？

    该论文讨论了针对任务的对话系统，提出了基于填槽的 TOD 系统（SF-TOD）框架的局限性，探讨了可扩展的 WebTOD 框架，后者是在 Web/移动界面上构建对话系统的替代方向，由大规模语言模型驱动对网页/移动界面的理解。

    Dec, 2022

  • 通过前瞻目标增强大型语言模型引发的面向任务的对话系统

    ProToD是一种预测未来对话动作并结合目标导向奖励信号来增强对话系统的方法，通过基于目标导向的对话模拟评估方法，可以在仅使用10%的数据的情况下实现比以前的全监督模型更好的性能，同时提高用户满意度和效率。

    Sep, 2023

  • 使用大型语言模型进行任务导向对话评估的用户模拟

    为了推动自动化任务导向对话系统的评估，本研究提出了一种基于预训练语言模型的新型用户模拟器，并通过上下文学习来生成具有鲁棒性和语言多样性的输出，以模拟人类对话行为。通过与现有对话系统交互，并收集人机交互数据集，验证了该用户模拟器在单一意图对话目标方面的表现与人类相似。

    Sep, 2023

  • InstructTODS: 大型语言模型用于端到端任务导向式对话系统

    通过利用大型语言模型，InstructTODS 提供了一种零训练样本的端到端任务导向式对话系统的框架，可以适应多样领域并有效地将用户意图转化为查询，而且在帮助性、信息性和人性化方面明显优于黄金标准回复及现有技术的 TODS。

    Oct, 2023

  • TOD-Flow：任务导向对话结构建模

    我们提出了一种从对话数据中推断出TOD-Flow图的新方法，该图可以与对话模型集成，以改善其预测性能、透明度和可控性，并且在MultiWOZ和SGD基准测试中显著提高了对话行为分类和端到端响应生成性能。

    Dec, 2023

  • 可迁移的多领域任务导向对话系统

    本研究解决了当前任务导向对话系统在信息收集中的主动性和多样性不足的问题。通过构建多领域对话数据集TransferTOD，我们展示了模型在槽位填充和提问能力上的显著提升，证明了其强大的泛化能力和数据利用效率，可能对多场景下的应用产生积极影响。

    Jul, 2024

  • 可迁移的多领域任务导向对话系统

    本研究针对现有任务导向对话系统在信息收集中的效率和有效性问题，提出了一种改进的数据构建方法及中文对话数据集TransferTOD。该系统能够在30种常见生活服务场景中真实模拟人机对话，并展现出在多个下游场景中优异的推广能力，显著提升数据利用效率和系统性能。

    Jul, 2024