ACLMay, 2021

学习桥接度量空间：少样本联合学习意图检测和槽位填充

PDF
TL;DR本文研究了针对对话语言理解的 few-shot 联合学习，提出了一种基于相似度的 few-shot 学习方案 ConProm, 能够从少量样例捕捉任务关系并联合学习多个任务。在 Snips 和 FewJoint 两个公开数据集上的实验结果表明，该方案表现出比强基线模型更好的性能。
发现论文，激发创造
  • 一种显式联合和监督对比学习框架，用于少样本意图分类和槽位填充

    本文提出了一种新颖的显式联合和监督对比学习框架，实现了少样本意图分类和词槽填充，通过构建 episode，允许不平衡的数据集。实验证明，该框架在三个公共数据集上都表现出色。

    Oct, 2021

  • 少样本意图分类与槽位填充的表示和知识分离

    通过解耦普遍语义表示相关与特定领域知识相关的经验，将 Few-shot 意图分类和槽填充任务中的域特定知识传递与其他经验分开，显著提升性能。

    Dec, 2023

  • 半监督少样本意图分类与槽位填充

    本文研究如何将对比学习和无监督数据增强应用于少样本学习，以改进自然语言理解中的意图分类和槽位填充任务。在标准的 IC/SF 基准测试中，我们的半监督方法通过在原有监督元学习技术中引入对比损失和数据增强方法，表现出优异的性能，特别是在少样本 IC 问题上表现更为突出。

    Sep, 2021

  • 联合多种意图检测和槽位填充的受监督对比学习和自蒸馏方法

    我们提出了一种通过双向联合模型以及监督对比学习和自我蒸馏的训练方法来解决多意图检测和槽填充问题，并且实验证明该方法在这两个任务中的表现优于最先进的模型。

    Aug, 2023

  • 双向联合神经网络用于意图分类和槽填充

    本文提出了一种基于 BERT 的双向联合模型，通过 intent2slot 和 slot2intent 两个机制同时优化意图分类和位置填充，达到了当前公开数据集 ATIS（88.6％）和 SNIPS（92.8％）的最好结果，并显著提高了句子级语义框架的准确性。

    Feb, 2022

  • 利用检索到的样本进行少样本意图分类和槽填充

    本文探讨了如何在缺乏足够资源的情况下，通过基于检索的方法完成少量样本学习并用于意图分类和填槽任务。我们提出了一种基于跨度级别检索的方法，通过一种新颖的批次 - softmax 目标函数，在相似的具有相同标签的跨度之间学习上下文化表示。我们的方法在 CLINC 和 SNIPS 基准测试中超过了先前的系统。

    Apr, 2021

  • 基于胶囊神经网络的联合槽位填充与意图识别

    本研究提出了基于 capsule 的神经网络模型，通过动态路由协议实现槽填充和意图检测，从而有效地利用了语义层次结构。实验表明，与其他模型结构以及现有自然语言理解服务相比，我们的模型具有更好的性能。

    Dec, 2018

  • 给定少量示例的意图和槽位标签分类学习

    在本文中，我们提出了一种新的少样本学习任务 —— 少样本意图分类和槽填充，以在超低资源场景中研究和提高意图分类和槽填充模型的性能，并通过定义 ATS、TOP 和 Snips 三个公共数据集的少样本分割来建立少样本意图分类和槽填充基准。我们表明，既有的元学习算法（MAML）和原型网络算法在这个基准上优于 fine-tuning 基线。同时，预训练的语言模型（例如 ELMo 和 BERT）与这些小样本算法相结合，可以进一步提高模型在此任务上的性能。

    Apr, 2020

  • 基于 BERT 的联合多语言意图检测与槽位填充模型

    本文介绍了 Bert-Joint，一种利用多语言联合文本分类和序列标注框架的模型，旨在利用 “无递归” 模型成功应用于口语自然语言理解的任务上，并通过实验验证了该模型在英语基准数据集上表现出了强大的性能，处理少量的标注数据时表现良好。此外，我们还为意大利语语言标注了一个新数据集，并观察到了类似的性能，而不需要更改模型。

    Jul, 2019

  • 自然语言理解中联合意图检测和槽位填充模型调查

    本文综述了自然语言理解中重要的两个任务：目的意图分类和词槽填充。特别是联合模型已经成为达到最佳性能的方法，并揭示了两个任务之间的强关系。文章描述了意图分类和词槽填充在趋势、方法、问题、数据集、评估指标、性能、共享任务等方面的研究，其中包括不同维度的表格总结过去的研究。

    Jan, 2021