EMNLPApr, 2021

面向目标对话系统中意图分类和槽位标记对现实世界噪声的鲁棒性研究

PDF
TL;DR通过研究七种噪声类型对话系统中意图分类和槽位标记模型在真实环境中出现的问题，我们设计了一种增加数据的方法来提高模型性能，使得我们能够训练出一个在各种噪声现象下都具有鲁棒性的 IC/SL 模型。
发现论文，激发创造
  • 目标导向对话系统的简单、快速、准确的意图分类和槽位标记

    本文探讨了利用自我注意力、卷积和循环模型进行语音理解的各种方法，提出了一种适用于工业环境的 “标签 - 循环” 模型，能够准确快速地进行意图分类和词条标注，同时在 Snips 数据集中实现了 30% 以上的误差降低。

    Mar, 2019

  • 提高任务导向对话系统的鲁棒性

    本文针对任务导向的对话系统中的意图识别和参数标记存在的过度敏感问题，介绍了构建对抗性测试集和采用对抗性训练方法和数据增强来提高模型健壮性的解决方案。实验结果表明，这些技术的组合能显著提高系统的健壮性。

    Nov, 2019

  • 给定少量示例的意图和槽位标签分类学习

    在本文中，我们提出了一种新的少样本学习任务 —— 少样本意图分类和槽填充，以在超低资源场景中研究和提高意图分类和槽填充模型的性能，并通过定义 ATS、TOP 和 Snips 三个公共数据集的少样本分割来建立少样本意图分类和槽填充基准。我们表明，既有的元学习算法（MAML）和原型网络算法在这个基准上优于 fine-tuning 基线。同时，预训练的语言模型（例如 ELMo 和 BERT）与这些小样本算法相结合，可以进一步提高模型在此任务上的性能。

    Apr, 2020

  • 半监督少样本意图分类与槽位填充

    本文研究如何将对比学习和无监督数据增强应用于少样本学习，以改进自然语言理解中的意图分类和槽位填充任务。在标准的 IC/SF 基准测试中，我们的半监督方法通过在原有监督元学习技术中引入对比损失和数据增强方法，表现出优异的性能，特别是在少样本 IC 问题上表现更为突出。

    Sep, 2021

  • 朝向稳健且通用的训练：基于输入扰动的噪声槽填充的实证研究

    存在对话场景中的未知输入噪声，已有的受监督槽填充模型在实际应用中性能低下；通过引入一个名为 Noise-SF 的噪声鲁棒性评估数据集，本文的提出的框架可以有效地提高模型的鲁棒性。

    Oct, 2023

  • 任务导向对话系统中基于神经网络的槽位填充和意图分类新方法综述

    本文重点考察了基于神经网络的研究，围绕自然语言理解在对话系统中的应用，着重研究了两个核心问题：slot filling 和 intent classification，并介绍了三种神经网络架构：独立模型、联合模型和迁移学习模型。提出了当前研究中面对的挑战。

    Nov, 2020

  • 一种显式联合和监督对比学习框架，用于少样本意图分类和槽位填充

    本文提出了一种新颖的显式联合和监督对比学习框架，实现了少样本意图分类和词槽填充，通过构建 episode，允许不平衡的数据集。实验证明，该框架在三个公共数据集上都表现出色。

    Oct, 2021

  • 通过改写实现强大的口语理解

    本论文提出了一种新颖的基于改写的 SLU 模型，结合 RNN 和序列到序列的神经网络提出了两个改写生成器，并证明了模型对罕见和复杂的改写话语具有鲁棒性。

    Sep, 2018

  • SNOiC：基于软标记和噪声混合的开放意图分类模型

    通过软标签和噪声混合策略，提出了一种基于 SNOiC 的开放意图分类模型。实验结果表明，该模型在识别开放意图方面取得了最低 68.72% 和最高 94.71% 的性能，并且相较于现有模型，改进了最低 0.93% 和最高 12.76% 的性能。通过分析所提出模型中的各种参数，进一步验证了该模型的有效性。同时，还进行了消融研究，创建了三个模型变体，以验证 SNOiC 模型的效果。

    Oct, 2023

  • 使用 BERT 的明确槽位 - 意图映射用于联合多意图检测和槽位填充

    本文提出了一个基于 BERT 的多意图自然语言理解框架 SLIM，可以共同学习多意图检测和插槽填充，并引入显式的槽 - 意图分类器以学习槽和意图之间的多对一映射，实验结果表明，相对于现有技术，SLIM 在多意图 NLU 方面具有优越性，并且可以获得来自槽 - 意图分类器的好处。

    Aug, 2021