EMNLPSep, 2018

基于胶囊神经网络的零样本用户意图识别

PDF
TL;DR本文提出了两种基于胶囊网络的架构，分别为 INTENT-CAPSNET 和 INTENTCAPSNET-ZSL，可用于用户意图检测问题。使用这些模型可以在没有标记的语句的情况下检测出新兴的用户意图。在两个真实世界数据集上的实验证明了该模型的有效性。
user intent detectionzero-shot learningcapsule-based architecturesemerging intentssemantic features
发现论文，激发创造
  • 零样本学习的联合意图和槽位标记

    通过零样本学习的方法，实现了目的性对话系统中的意向分类和槽位标注任务。研究表明，将意向和槽位之间的依赖关系建模，以及通过神经网络将单词和句子转换成嵌入空间，是提高任务准确性的关键因素。

    Nov, 2022

  • 基于模板的零 - shot 意图识别方法

    探讨了用于意图识别的广义零射击模式，并使用句子对建模方法，通过任务转移进一步提高性能，使用语境编码器的预训练技术使模型适用于主要且适应不断变化的应用。

    Jun, 2022

  • 泛零样本音频到意图分类

    利用仅有每个意图几个样本文本句子的泛化零样本音频到意图分类框架，该框架使用只有音频的数据，通过训练有监督的音频到意图分类器和利用神经音频合成器生成音频嵌入，使用余弦相似度对未见过的意图进行泛化零样本分类，并通过多模态训练策略将词汇信息融入音频表征来提高泛化零样本性能。相较于仅使用音频训练，我们的多模态训练方法提高了 SLURP 和内部目标导向对话数据集上未见过的意图的零样本意图分类准确率分别为 2.75％和 18.2％。

    Nov, 2023

  • 基于胶囊神经网络的联合槽位填充与意图识别

    本研究提出了基于 capsule 的神经网络模型，通过动态路由协议实现槽填充和意图检测，从而有效地利用了语义层次结构。实验表明，与其他模型结构以及现有自然语言理解服务相比，我们的模型具有更好的性能。

    Dec, 2018

  • 一种简单的元学习范式，用混合注意机制进行零样本意图分类

    本文提出了一种简单而有效的元学习范式，采用多种混合注意力机制来提取更好的话语特征，采用元学习策略来提高模型的泛化能力，从而在标准和广义零 - shot 意向分类任务上优于其他强基线

    Jun, 2022

  • 基于对比度预训练和微调的小样本意图检测

    本文提出了一种对于细粒度、语义相似的意图进行 Few-shot 检测的方案，使用了对比自监督预训练和有监督对比学习的组合方式，在三种不同的具有挑战性的 Few-shot 意图检测数据集上实验，获得了最先进的表现。

    Sep, 2021

  • 对话系统的意图 - 槽位自动识别

    该研究提出了自然语言对话系统中自动推断语义意图和关键词槽位的新方法，通过应用 Apriori 算法，设计了一种包含角色标注，概念挖掘，模式挖掘三步的粗略到精细的三步流程，实验表明该方法不仅适用于领域内和领域间的数据，具有良好的适应性，而且大大减少了手动工作。

    Mar, 2021

  • 探索零样本和小样本技术用于意图分类

    本文探讨了在低资源环境下使用领域适应、数据增强、零样本分类以及参数高效的微调等四种方法来解决对话 NLU 提供商在扩展到数千个意图分类模型时遇到的存储空间限制问题，结果表明这些方法对于不同程度的低资金环境下效果有效，在使用 T-few 配方提出的参数高效昆虫微调语言模型的 Flan-T5 上获得了最佳性能，即使只有一个样本每意图。我们还展示了使用意图描述促进 LLM 的零样本方法。

    May, 2023

  • 基于常识推理的零样本提示对隐性意图预测和推荐的应用

    本文提出了一个多域对话系统的框架，该系统可以自动推断用户话语的隐含意图并使用大型预训练语言模型触发适当的单任务导向机器人以执行任务，此框架能够有效地实现隐式意图和零 - shot 推荐。

    Oct, 2022

  • Z-BERT-A: 未知意图识别的零 - shot 管道

    通过提出具有 Transformer 结构和 fine-tuning 在 NLI 任务中训练的 Z-BERT-A 的方法，能够在零样本设置下有效地执行意图发现任务，从而能够在线生成新的意图。

    Aug, 2022