ACLFeb, 2024

探索面向任务的对话系统在口语化德语方言中的稳健性

PDF
TL;DR利用转移学习模式，主流的跨语言任务导向对话系统通过在英语中训练一个共同的意图识别和槽填充模型，然后将其无缝应用于其他语言。然而，现有研究往往忽视了向资源较少的方言进行转移的问题。本文针对这一问题，基于之前对英语的研究，我们构建了并手动评估了将德语句子转换为口语形式的扰动规则，并将其用于合成四个任务导向对话数据集的测试集。利用这些新数据集，我们在六种不同的 transformer 上进行了实验评估，结果表明，当应用于口语方言时，其意图识别性能仍然保持，并且平均准确率仅下降了 6%（4.62 个百分点）。然而，槽探测方面的性能大幅下降，槽 F1 评分降低了 31%（21 个百分点）。我们的发现得到了从标准美国英语向合成的城市非裔美国俚语英语的转移实验的进一步支持。
cross-lingual task-oriented dialoguetransfer learningcolloquial varietiesperturbation rulesslot detection
发现论文，激发创造
  • 多语言任务导向对话系统中性能差异的系统研究

    多语言自然语言处理中任务导向对话系统性能差异的经验分析和洞察，以及新语言中 ToD 数据收集和系统开发的实用建议。

    Oct, 2023

  • 插拔式任务导向对话系统的多任务预训练

    该研究提出了通过 PPTOD 模型和新的对话多任务预训练策略来解决任务导向对话系统中存在的级联生成问题，取得了针对几个基准 TOD 任务的最新成果。

    Sep, 2021

  • TOD-DA: 从口语会话中提高任务导向对话建模的鲁棒性

    本文提出了一种新的任务定向对话数据增强方法 TOD-DA，它包括对话丰富和口语会话模拟器，可以增加大规模高质量带注释口语会话，以提高口语任务定向对话建模的鲁棒性。在 DSTC10 Track2 的两项任务中，我们的方法均排名第一，证明了 TOD-DA 的优越性和有效性。

    Dec, 2021

  • 使用蒸馏表示进行零和少量训练的任务导向对话代理定位

    本文提出了一种利用源语言 ToD 训练数据构建另一种目标语言下的高质量对话代理的方法，从而实现零样本和小样本学习，它通过提高对话数据表示的质量、改进基于实体的机器翻译和自动过滤干扰性翻译来实现这一目标，通过在中英对话数据集 BiToD 上的实验证明了该方法的高效性。

    Feb, 2023

  • TOD-BERT: 面向任务导向对话的预训练自然语言理解

    本文通过整合多个人机对话数据集，结合用户和系统记号改良预训练模型，提出了对话任务 BERT（TOD-BERT）模型，并通过四个对话应用领域的实验验证，表明 TOD-BERT 在意图识别、对话状态跟踪、对话行为预测、响应选择等方面超过了强对话模型 BERT，并且具有更强的少量数据学习能力。

    Apr, 2020

  • Multi2WOZ: 一个强大的多语言数据集和面向任务型对话的预训练

    本文介绍了 Multi2WOZ 多语言多领域任务导向对话数据集，并提出了一种用于传输任意下游任务的多语言对话 PrLM 的新框架，证明了在多数情况下，最佳表现是将（I）针对目标语言的会话专业化与（ii）少次转移结合在一起，并且我们展示了针对目标语言的会话专业化可以实现下游任务的异常样本效率的少次转移。

    May, 2022

  • 基于大纲生成的跨语言对话数据集构建

    本篇论文提出了一种基于大纲的多语言任务导向型对话数据集标注方法，使得多语言对话系统的数据集不再受到规模限制和翻译自然性以及文化特异性等方面的问题，设计出一组新的大规模数据集，其中的 Cross-lingual Outline-based Dialogue 数据集允许进行自然语言理解、对话状态跟踪和端到端对话建模和评估，并通过多种语言以及基于最先进技术的交叉语言对话系统对数据集进行了定量和定性分析，同时设定了参考分数以指导后续工作。

    Jan, 2022

  • 通过前瞻目标增强大型语言模型引发的面向任务的对话系统

    ProToD 是一种预测未来对话动作并结合目标导向奖励信号来增强对话系统的方法，通过基于目标导向的对话模拟评估方法，可以在仅使用 10% 的数据的情况下实现比以前的全监督模型更好的性能，同时提高用户满意度和效率。

    Sep, 2023

  • 使用大型语言模型进行任务导向对话评估的用户模拟

    为了推动自动化任务导向对话系统的评估，本研究提出了一种基于预训练语言模型的新型用户模拟器，并通过上下文学习来生成具有鲁棒性和语言多样性的输出，以模拟人类对话行为。通过与现有对话系统交互，并收集人机交互数据集，验证了该用户模拟器在单一意图对话目标方面的表现与人类相似。

    Sep, 2023

  • 任务导向对话系统语言模型比较研究

    本研究比较了使用最新的预训练模型，如 BART 和 T5 对任务导向对话系统的端到端训练的效果和强度，实验结果表明在语言模型微调后，模型生成的响应更流畅、更准确，BART 和 T5 在 BLEU 和 F1 分数方面胜过 GPT-based models，达到了任务导向对话系统的最先进水平。

    Jan, 2022