促进情境学习与指示在端到端任务导向型对话系统中的协同作用

May, 2024

促进情境学习与指示在端到端任务导向型对话系统中的协同作用

Synergizing In-context Learning with Hints for End-to-end Task-oriented Dialog Systems

Vishal Vivek Saley, Rocktim Jyoti Das, Dinesh Raghu, Mausam

TL;DR利用 SyncTOD 改进了与任务有关的对话系统，通过在有限的数据情况下训练具有辅助模型和启示的大型语言模型，实现了在低数据设置中与 LLM 基准模型和 SoTA 模型相比的卓越性能。

Abstract

large language models (LLM) based end-to-end task-oriented dialog (TOD) systems built using few-shot (in-context) learning perform better than supervised models only when the train data is limited. This is due to the inherent ability of LLMs to learn any task with just a few demonstrat

large language models end-to-end task-oriented dialog systems few-shot learning synctod low-data settings

发现论文，激发创造

InstructTODS: 大型语言模型用于端到端任务导向式对话系统

通过利用大型语言模型，InstructTODS 提供了一种零训练样本的端到端任务导向式对话系统的框架，可以适应多样领域并有效地将用户意图转化为查询，而且在帮助性、信息性和人性化方面明显优于黄金标准回复及现有技术的 TODS。

Oct, 2023

使用状态转换图和大型语言模型模拟任务导向型对话

该研究探讨了 SynTOD，一种用于开发端到端任务导向对话系统的新型合成数据生成方法，该方法能够处理意图分类、槽填充、对话问答和检索增益响应生成等复杂任务，而无需依赖众包或现实世界的数据。实验结果显示，使用受图引导的响应模拟能够显著提高意图分类、槽填充和响应相关性，相较于单一提示的模拟对话。该研究还调查了不同基础和指导调整的大型语言模型在端到端任务导向对话系统上的有效性，并探索了它们在评估回应和与人类判断之间的相关性。这些发现为领域特定的任务导向对话系统的快速开发和评估铺平了道路。研究团队还发布了用于研究目的的数据集、模型和代码。

Apr, 2024

通过前瞻目标增强大型语言模型引发的面向任务的对话系统

ProToD 是一种预测未来对话动作并结合目标导向奖励信号来增强对话系统的方法，通过基于目标导向的对话模拟评估方法，可以在仅使用 10% 的数据的情况下实现比以前的全监督模型更好的性能，同时提高用户满意度和效率。

Sep, 2023

插拔式任务导向对话系统的多任务预训练

该研究提出了通过 PPTOD 模型和新的对话多任务预训练策略来解决任务导向对话系统中存在的级联生成问题，取得了针对几个基准 TOD 任务的最新成果。

Sep, 2021

面向任务的端到端对话系统的任务优化适配器

该研究提出了一种基于 Task-Optimized Adapters 和强化学习的 End-to-end TOD 系统，能够独立学习每个任务，并在 MultiWOZ 基准测试上表现出优越的性能，特别是在 2.2 数据集上的 DST 任务达到了最先进的水平。

May, 2023

使用大型语言模型进行任务导向对话评估的用户模拟

为了推动自动化任务导向对话系统的评估，本研究提出了一种基于预训练语言模型的新型用户模拟器，并通过上下文学习来生成具有鲁棒性和语言多样性的输出，以模拟人类对话行为。通过与现有对话系统交互，并收集人机交互数据集，验证了该用户模拟器在单一意图对话目标方面的表现与人类相似。

Sep, 2023

面向任务的对话与上下文学习

使用大型语言模型（LLMs）的上下文学习能力与业务逻辑的确定执行相结合，描述了一种构建面向任务的对话系统的系统。与主要用于行业的基于意图的 NLU 方法相比较，我们的实验表明，使用我们的系统开发聊天机器人所需的工作量明显较少，这些聊天机器人可以成功地进行复杂对话，并且我们的系统对于大规模任务导向的对话系统具有可扩展的有益特性。我们提供了我们的实现用于使用和进一步研究。

Feb, 2024

DivTOD：发挥 LLMs 在多样化任务导向对话表示中的力量

本文提出了一种称为 DivTOD 的新型对话预训练模型，它与 LLMs 合作，学习多样的任务导向对话表示，并在各种下游对话任务上优于强基线模型，同时学习任务导向对话的内在多样性。

Mar, 2024

SGP-TOD: 通过模式引导的 LLM 提示轻松构建任务机器人

该研究提出了 SGP-TOD—— 基于大型语言模型的模式引导对话系统，可以在不使用任何特定任务数据的情况下，生成适当的回应，具有零 - shot 性能，并且能够通过添加附加模式规则轻松适应新功能。

May, 2023

多语言对话代理的准备工作被低估了

多语种任务对话代理人的创建在训练数据获取成本高的情况下具有挑战性，通过改进训练数据效率的研究趋势，我们首次展示了上下文学习在解决多语种任务对话代理人中的有效性。通过将具有挑战性的对话状态跟踪 (DST) 子任务分解为更简单、更适合上下文学习的步骤，我们在多语种任务对话数据集 X-RiSAWOZ 上测试了我们的方法，并在 6 种语言上获得了以每轮对话的 DST 准确性为 55.6% 至 80.3% 的结果，看似比微调模型的 SOTA 结果（60.7% 至 82.8% 的准确性）要差；我们在响应生成 (RG) 子任务上的 BLEU 分数也明显低于 SOTA 的结果。然而，在手动评估验证集后，我们发现通过纠正金标签错误和改进数据集注释模式，我们的启示式 GPT-4 在 DST 方面可以达到 89.6% 至 96.8% 的准确性，并且在不同语言上的响应生成中超过 99% 的正确率。这使我们得出的结论是，当前的自动度量指标严重低估了上下文学习的有效性。

May, 2024