Apr, 2022

面向任务型对话系统的基于提示的小样本学习方法在信念状态跟踪中的研究

PDF
TL;DR我们探讨了基于任务导向的对话系统的对话信念状态跟踪（DST）问题。通过以 Prompt 为基础进行少样本学习，我们证明了 Prompt-based 方法在 DST 的 Few-shot 学习中具有潜在的潜力，并提供了未来改进的方向。
dialogue belief state trackingtransformer-based modelspre-trained language modelsprompt-based learningfew-shot learning
发现论文，激发创造
  • 一种针对少样本对话状态跟踪的双提示学习框架

    通过设计双提示学习框架，利用预训练语言模型的语言理解和生成能力，将对话状态跟踪任务高效地转化为一项语言建模任务，提高了低资源情况下对话状态跟踪的效率。实验证明，该方法优于现有的少样本学习方法，并且可生成未见过的槽位。

    Jan, 2022

  • 利用预训练语言模型稳定上下文学习以实现少样本对话状态跟踪

    通过元学习在对话领域稳定模型，设计新的训练方法改进检索机制寻找理想的示例，在句子长度有限的情况下，使用显著性模型限制对话文本长度，从而在 MultiWOZ 上实现了具有竞争力的少样本对话状态跟踪结果。

    Feb, 2023

  • SF-DST: 少样本自喂式陈述理解对话状态跟踪及其辅助任务

    本文提出一种无本体论的少样本对话状态跟踪模型，采用自我喂养信念状态作为输入，通过总结先前的对话提高多轮对话的准确性，同时新增了一个槽门辅助任务，成功应用于多领域的任务中，达到了最佳表现。

    Sep, 2022

  • PromptAttack：通过敌对提示探测对话状态追踪器

    为了构建更健壮可靠的对话系统，通过引入基于提示的学习方法，自动生成有效的对抗例子来探究对话状态跟踪器 (DST)；实验表明该框架可在保持良好流畅度和低扰动比的情况下，对现有最先进的 DST 造成最大准确度降低和最好的攻击成功率。

    Jun, 2023

  • 通过提示调整实现参数高效的低资源对话状态跟踪

    该论文研究了如何在对话管理中跟踪用户的信念，通过使用软提示令牌嵌入来学习任务属性，可以显著减少先前工作所需的参数数量，同时实现更好的低资源对话状态跟踪性能。

    Jan, 2023

  • DS2: 对话总结作为对话状态的表示，基于模板的少样本对话状态跟踪

    本文提出基于语言模型的少样本对话状态追踪方法，将对话状态追踪问题重新表述为对话摘要问题，并使用合成的对话摘要训练模型。经实验证明，该方法在跨领域和多领域设置下的效果都优于以往方法，并提升训练和推理速度。

    Mar, 2022

  • 元学习的 Few Shot 对话状态跟踪

    本文提出了一种基于元学习算法的 D-REPTILE 模型，用于解决自动聊天机器人中少样本语料下的对话状态跟踪问题，并在不同领域、方法、基准模型和数据集中进行了广泛实验，结果表明该方法在低数据情况下具有显著的（5-25%）改进，并且适用于各种状态跟踪模型。

    Jan, 2021

  • 通过示例引导的问答方式进行连续对话状态跟踪

    通过将对话状态追踪重新构想为一个打包的例子指导的问题回答任务，以利于持续学习并减少服务特定的记忆，该方法通过学习在过程中上下文的例子以及结合对话层次的记忆回放方法，无需依赖于任何复杂的规范化或参数扩展方法，便可获得 DST 持续学习度量上的最先进性能。

    May, 2023

  • 少量样本对话状态跟踪的上下文学习

    本研究提出了一个基于 in-context learning (ICL) 框架、利用大型预训练语言模型 (LM) 进行零样本和小样本学习的对话状态跟踪 (DST) 方法，重点是通过将 DST 优化为文本到 SQL 问题和使用新颖的对话检索方法，以检索标注对话作为样本来提高对答案问题的准确性。在 MultiWOZ 上的实证结果表明，IC-DST 法在小样本情境中明显优于以往最先进的模型，在只输入固定任务指令的零样本情境下，也比以往的零样本方法表现得更好。

    Mar, 2022

  • 你跟得上我吗？”: 对话状态跟踪近期方法综述

    对话状态跟踪是对话系统中的重要环节，虽然神经方法实现了显著的进展，但对话系统的一些关键方面，如可拓展性等仍未得到充分探索，本文提出了未来研究的几个方向。

    Jul, 2022