MMJun, 2021

基于表征的元学习用于少样本语音意图识别

PDF
TL;DR本文提出了一种利用元学习范式的 few-shot 口语意图分类方法，通过基于表示的元学习获取 utterances 的任务无关表示，然后使用线性分类器进行预测，在 Google Commands 和 Fluent Speech Commands 数据集上实验表明，该方法可以实现对新类别进行准确分类的性能。
spoken intent detectionfew-shot spoken intent classificationmeta-learning paradigmtask-agnostic representationslinear classifier
发现论文，激发创造
  • 一种简单的元学习范式，用混合注意机制进行零样本意图分类

    本文提出了一种简单而有效的元学习范式，采用多种混合注意力机制来提取更好的话语特征，采用元学习策略来提高模型的泛化能力，从而在标准和广义零 - shot 意向分类任务上优于其他强基线

    Jun, 2022

  • 泛零样本音频到意图分类

    利用仅有每个意图几个样本文本句子的泛化零样本音频到意图分类框架，该框架使用只有音频的数据，通过训练有监督的音频到意图分类器和利用神经音频合成器生成音频嵌入，使用余弦相似度对未见过的意图进行泛化零样本分类，并通过多模态训练策略将词汇信息融入音频表征来提高泛化零样本性能。相较于仅使用音频训练，我们的多模态训练方法提高了 SLURP 和内部目标导向对话数据集上未见过的意图的零样本意图分类准确率分别为 2.75％和 18.2％。

    Nov, 2023

  • 基于模板的零 - shot 意图识别方法

    探讨了用于意图识别的广义零射击模式，并使用句子对建模方法，通过任务转移进一步提高性能，使用语境编码器的预训练技术使模型适用于主要且适应不断变化的应用。

    Jun, 2022

  • ProtoDA: 少样本意图分类的高效迁移学习

    该研究探讨了在自然语言处理中实用的序列分类任务通常受到目标类别低训练数据可用性的影响，利用原型网络的元学习范式在相关任务集合上进行转移学习来缓解这个问题，并使用数据增强在句子嵌入空间和原型嵌入空间来提高分类性能，相对于 5-shot 和 10-shot 学习中的最佳性能，结合元学习的增强提供了高达 6.49％和 8.53％的相对 F1 分数改进。

    Jan, 2021

  • Meta-TTS: 面向 Few-Shot 说话人自适应的元学习文本转语音

    本文提出了一种使用元学习算法的多说话人文本转语音（Meta-TTS）模型，通过少量的适应步骤，可以生成具有高语音相似度的语音合成，并且比已有的说话人适应方法和说话人编码方法更为高效。

    Nov, 2021

  • 利用检索到的样本进行少样本意图分类和槽填充

    本文探讨了如何在缺乏足够资源的情况下，通过基于检索的方法完成少量样本学习并用于意图分类和填槽任务。我们提出了一种基于跨度级别检索的方法，通过一种新颖的批次 - softmax 目标函数，在相似的具有相同标签的跨度之间学习上下文化表示。我们的方法在 CLINC 和 SNIPS 基准测试中超过了先前的系统。

    Apr, 2021

  • 目标导向对话系统的简单、快速、准确的意图分类和槽位标记

    本文探讨了利用自我注意力、卷积和循环模型进行语音理解的各种方法，提出了一种适用于工业环境的 “标签 - 循环” 模型，能够准确快速地进行意图分类和词条标注，同时在 Snips 数据集中实现了 30% 以上的误差降低。

    Mar, 2019

  • 基于对比度预训练和微调的小样本意图检测

    本文提出了一种对于细粒度、语义相似的意图进行 Few-shot 检测的方案，使用了对比自监督预训练和有监督对比学习的组合方式，在三种不同的具有挑战性的 Few-shot 意图检测数据集上实验，获得了最先进的表现。

    Sep, 2021

  • 少样本意图分类与槽位填充的表示和知识分离

    通过解耦普遍语义表示相关与特定领域知识相关的经验，将 Few-shot 意图分类和槽填充任务中的域特定知识传递与其他经验分开，显著提升性能。

    Dec, 2023

  • 低资源口语理解的多任务学习

    本研究探讨了多任务学习在语音处理中的优势，通过使用自动语音识别和意图分类或情感分类的双重目标来训练模型，我们的模型虽然规模适中，但我们的研究表明多任务学习可以在低资源情况下与基线模型竞争，并且在情感分类上表现与端到端模型相当。

    Nov, 2022