EMNLPOct, 2023

零样本对话状态跟踪的复杂更新策略的大型语言模型语义解析

PDF
TL;DR通过语义解析将原始对话文本转换为 JSON，使用大型语言模型和更多模块来实现更新策略，提出一种新的上下文学习方法 ParsingDST，通过引入复杂的更新策略改进了零样本对话状态跟踪 (DST)，在 MultiWOZ 数据集上优于现有的方法，对比现有的上下文学习方法在联合目标准确性和槽准确性方面有显著的改进。
zero-shot dialogue state trackingin-context learningtask-oriented dialoguessemantic parsinglarge language models
发现论文，激发创造
  • 少量样本对话状态跟踪的上下文学习

    本研究提出了一个基于 in-context learning (ICL) 框架、利用大型预训练语言模型 (LM) 进行零样本和小样本学习的对话状态跟踪 (DST) 方法，重点是通过将 DST 优化为文本到 SQL 问题和使用新颖的对话检索方法，以检索标注对话作为样本来提高对答案问题的准确性。在 MultiWOZ 上的实证结果表明，IC-DST 法在小样本情境中明显优于以往最先进的模型，在只输入固定任务指令的零样本情境下，也比以往的零样本方法表现得更好。

    Mar, 2022

  • 对话状态跟踪的语义表述

    采用层次表示的语义分析任务，以实现对话状态跟踪，并通过 TreeDST 数据集的编码器 - 解码器框架实现了比现有技术水平的 DST 方法更好的结果。

    Oct, 2020

  • 基于 LLM 的对话状态跟踪

    对 ChatGPT 在对话状态跟踪 (DST) 任务中的能力进行了初步评估，发现其表现出色。为了解决 ChatGPT 的局限性，提出了基于小型开源模型的 LLM 驱动的 DST 框架 LDST，通过领域 - 槽位指令调优方法，LDST 在零样本和少样本设置下相较于之前的 SOTA 方法取得了显著的性能提升。提供源代码以保证可复现性。

    Oct, 2023

  • MA-DST: 基于多注意力的可扩展对话状态跟踪

    本文提出了一种新的架构，利用多粒度的注意力机制来更稳健地编码对话历史和槽的语义，用于实现准确的跨域对话状态跟踪，并在 MultiWoZ 2.1 数据集上将联合目标准确率提高了 5%（绝对值），并在零 - shot 设置下比现有最先进技术提高至多 2%（绝对值）。

    Feb, 2020

  • S3-DST: 基于结构化的开放域对话分割与状态跟踪在 LLM 时代

    对于基于大语言模型的聊天系统，我们提出了一种结合对话分割和状态跟踪的方法，在开放领域对话系统中处理来自演化的大语言模型聊天系统的复杂性并提高跟踪性能。我们的方法通过引入一种新的基于先前分析的回忆的接地机制来改善对长对话上下文的跟踪，并在一系列数据集和设置中得到了出色的表现，证明了其在下一代大语言模型聊天系统中的有效性和鲁棒性。

    Sep, 2023

  • 针对基于模式引导的零样本对话状态跟踪进行 BERT 微调

    本文提出了一种基于预训练语言模型 BERT 微调的无监督对话状态跟踪系统 (SGP-DST)，它包括意图预测、关键词填充、槽传递预测和用户状态总结 4 个模块，是目前在第八届对话系统技术挑战赛中排名第三的解决方案。

    Feb, 2020

  • 通过函数调用将大型语言模型作为零样本对话状态跟踪器

    通过函数调用，我们提出了一种改进零样本对话状态跟踪的方法，以提高大型语言模型的任务导向对话的效果，并实现了与当前最先进模型的性能相媲美。

    Feb, 2024

  • 零 - shot 对话状态跟踪的 ChatGPT：解决方案还是机会？

    我们使用 ChatGPT ，一个通用语言模型，展示了它在零 - shot DST 上达到的最先进的表现，并证明了通用模型在专业系统替代方面的能力受到其属性的限制，但我们认为通用模型的语境学习能力很可能成为支持专门的动态对话状态跟踪器开发的有力工具。

    Jun, 2023

  • 通过生成式问答实现对话状态跟踪中的零 - shot 泛化

    研究了一种基于生成型问答和条件语言模型的不需要本体的 Dialog State Tracking 方法，具有较好的领域迁移效果。

    Jan, 2021

  • 使用 GPT-4 的二维零样本对话状态跟踪评估方法

    我们提出了一种使用 GPT-4 的二维零样本评价方法，将对话状态跟踪 (DST) 评价分为准确性和完整性两个维度，并设计了两条手动推理路径来进一步提高评价准确性，实验结果表明我们的方法比基线方法取得了更好的性能，并且与传统的精确匹配方法一致。

    Jun, 2024