ACLFeb, 2022

使用弱监督和稀疏数据的稳健对话状态跟踪

PDF
TL;DR本文介绍了一个基于 attention mechanism 的迁移学习方法，适用于在训练过程中缺乏丰富人工标注数据的情况下训练 extractive DST 模型，通过两种新颖的输入级 dropout 方法来减轻样本稀疏性的负面影响。我们的实验表明，提出的模型训练策略和架构方法在应对新概念、样本稀疏性等挑战时表现出优越性。
dialogue state trackingextractive modelssample sparsitynew conceptsattention mechanism
发现论文，激发创造
  • 稀疏监督引导下的注意力对话状态追踪

    本论文提出了一种基于 encoder-decoder 模型的 Dialogue State Tracking 方法，在利用数据量较小的情况下学习对话状态，结果表明该方法与基于完全监督的基线相当，但成本更低。

    Jan, 2021

  • 利用自监督来改善有限标注对话状态跟踪

    本文提出并研究了两种自我监督方法：保持潜在一致性和建模对话行为，以提高数据效率，实验结果显示这种方法将使联合目标的准确度提高了 8.95％。

    Oct, 2020

  • 多域对话状态跟踪的高效上下文和模式融合网络

    本文提出了一种基于内部和外部注意机制的上下文和架构融合网络来编码对话上下文和架构图，能够在 MultiWOZ 2.0 和 MultiWOZ 2.1 基准测试中获得最新的最佳性能的开放词汇 DST。

    Apr, 2020

  • 对话状态跟踪的交互槽对比学习对话状态蒸馏网络

    本文提出一种 Dialogue State Distillation Network（DSDN）用于进行任务导向的对话系统中的 Dialogue State Tracking（DST），并且在 MultiWOZ 2.0 和 MultiWOZ 2.1 数据集上实验证明，该网络可以动态地利用先前的对话状态并避免引入误差传播，同时还可以有效地捕捉来自对话语境的插槽共同更新关系

    Feb, 2023

  • 可扩展的多领域对话状态跟踪

    本文介绍了一种基于深度学习的可伸缩的多领域对话状态跟踪方法，通过引入一个新的状态跟踪框架，该框架独立于具体的槽值集合，并将对话状态表示为候选值集合的分布，此方法能够快速适应新领域，提高跨领域和可扩展性。

    Dec, 2017

  • UNO-DST: 利用无标签数据进行零样本对话状态跟踪

    我们将零样本对话状态跟踪转化为少样本对话状态跟踪，通过联合和自我训练方法利用目标域中的无标签数据。该方法通过辅助任务生成槽类型作为主要任务的逆提示，在联合训练期间创建槽值。这两个任务之间的循环一致性使得能够生成和选择未知目标域中的高质量样本，以进行后续的微调。此方法还有助于自动标签创建，从而优化对话状态跟踪模型的训练和微调。我们在零样本场景中的大型语言模型上展示了该方法的有效性，在 MultiWOZ 的所有领域中，平均联合目标准确率提高了 8%。

    Oct, 2023

  • 知识感知图增强的 GPT-2 用于对话状态跟踪

    本文介绍了一种新的混合架构，将 GPT-2 与来自 Graph Attention Networks 的表示相结合，以实现逐步预测插槽值，并捕获跨域的插槽之间的关系和依赖关系，以提高多域会话跟踪的性能。该模型通过图模块捕获插槽之间的相互依赖性并提高了跨多个域常见的值的预测。

    Apr, 2021

  • 基于状态图的跨领域对话状态跟踪

    本文探讨了利用关系图与 relational-GCN 图卷积网络构建聊天机器人多域对话跟踪模型的方法，实验结果表明，该方法实现了新的最佳性能，优于使用现有方法提出的深度学习技术的性能。

    Oct, 2020

  • MA-DST: 基于多注意力的可扩展对话状态跟踪

    本文提出了一种新的架构，利用多粒度的注意力机制来更稳健地编码对话历史和槽的语义，用于实现准确的跨域对话状态跟踪，并在 MultiWoZ 2.1 数据集上将联合目标准确率提高了 5%（绝对值），并在零 - shot 设置下比现有最先进技术提高至多 2%（绝对值）。

    Feb, 2020

  • SF-DST: 少样本自喂式陈述理解对话状态跟踪及其辅助任务

    本文提出一种无本体论的少样本对话状态跟踪模型，采用自我喂养信念状态作为输入，通过总结先前的对话提高多轮对话的准确性，同时新增了一个槽门辅助任务，成功应用于多领域的任务中，达到了最佳表现。

    Sep, 2022