本文探讨自然语言理解、对话状态跟踪、对话策略和自然语言生成这四个模块在少数据样本下学习的挑战，并评估了使用自然语言生成模型进行少样本迁移学习的效果和局限性，为未来研究提供了启示。

Aug, 2020

通过设计双提示学习框架，利用预训练语言模型的语言理解和生成能力，将对话状态跟踪任务高效地转化为一项语言建模任务，提高了低资源情况下对话状态跟踪的效率。实验证明，该方法优于现有的少样本学习方法，并且可生成未见过的槽位。

Jan, 2022

本研究提出了一个基于in-context learning (ICL)框架、利用大型预训练语言模型 (LM)进行零样本和小样本学习的对话状态跟踪 (DST)方法，重点是通过将DST优化为文本到SQL问题和使用新颖的对话检索方法，以检索标注对话作为样本来提高对答案问题的准确性。在MultiWOZ上的实证结果表明，IC-DST法在小样本情境中明显优于以往最先进的模型，在只输入固定任务指令的零样本情境下，也比以往的零样本方法表现得更好。

Mar, 2022

我们探讨了基于任务导向的对话系统的对话信念状态跟踪（DST）问题。通过以Prompt为基础进行少样本学习，我们证明了Prompt-based方法在DST的Few-shot学习中具有潜在的潜力，并提供了未来改进的方向。

Apr, 2022

提出了一种新的自学框架，通过伪标签和目的保持扩充来迭代地改进模型，用于少样本生成式对话状态跟踪，增强了MultiWOZ 2.1的性能，并提高了无见过值的槽召回率。

Nov, 2022

通过元学习在对话领域稳定模型，设计新的训练方法改进检索机制寻找理想的示例，在句子长度有限的情况下，使用显著性模型限制对话文本长度，从而在MultiWOZ上实现了具有竞争力的少样本对话状态跟踪结果。

Feb, 2023

我们使用 ChatGPT ，一个通用语言模型，展示了它在零-shot DST 上达到的最先进的表现，并证明了通用模型在专业系统替代方面的能力受到其属性的限制，但我们认为通用模型的语境学习能力很可能成为支持专门的动态对话状态跟踪器开发的有力工具。

Jun, 2023

我们将零样本对话状态跟踪转化为少样本对话状态跟踪，通过联合和自我训练方法利用目标域中的无标签数据。该方法通过辅助任务生成槽类型作为主要任务的逆提示，在联合训练期间创建槽值。这两个任务之间的循环一致性使得能够生成和选择未知目标域中的高质量样本，以进行后续的微调。此方法还有助于自动标签创建，从而优化对话状态跟踪模型的训练和微调。我们在零样本场景中的大型语言模型上展示了该方法的有效性，在MultiWOZ的所有领域中，平均联合目标准确率提高了8%。

Oct, 2023

对ChatGPT在对话状态跟踪(DST)任务中的能力进行了初步评估，发现其表现出色。为了解决ChatGPT的局限性，提出了基于小型开源模型的LLM驱动的DST框架LDST，通过领域-槽位指令调优方法，LDST在零样本和少样本设置下相较于之前的SOTA方法取得了显著的性能提升。提供源代码以保证可复现性。

Oct, 2023

通过增加使用合成数据生成技术来提高零-shot对话状态追踪（DST）准确性的多样性的训练数据，本研究证明了可实现的巨大收益。该研究通过使用一种新颖的全自动数据生成方法来创建合成的零-shot DST训练资源，克服了当前DST训练资源在应用领域和槽类型方面的严重限制，该方法生成全新的应用领域以及具备银标注和槽描述的对话。该方法用于创建D0T数据集以训练零-shot DST模型，该数据集涵盖了1000多个领域。在MultiWOZ基准测试中进行的实验表明，使用多样化合成数据训练模型可以改善+6.7%的联合目标准确率，达到与更大模型相竞争的结果。

May, 2024