本文介绍了在意图分类中使用语义哈希作为嵌入的方法，并在三个常用基准测试上实现了最先进的性能。语义哈希是一种尝试克服诸如数据饥饿和词汇表依赖性等挑战，学习强大的文本分类的方法，可以处理拼写错误和小型数据集等问题。

Oct, 2018

本研究提出了一种利用未知类标签学习类转导意图表示（CTIR）的框架，该框架采用多任务学习目标和相似度评分器来改善现有的零样本意图检测系统不能识别未知意图的问题，并在两个真实数据集上获得了相当的性能提升。

Dec, 2020

本文探讨了如何在缺乏足够资源的情况下，通过基于检索的方法完成少量样本学习并用于意图分类和填槽任务。我们提出了一种基于跨度级别检索的方法，通过一种新颖的批次-softmax目标函数，在相似的具有相同标签的跨度之间学习上下文化表示。我们的方法在CLINC和SNIPS基准测试中超过了先前的系统。

Apr, 2021

本文研究了少样本意图分类预训练的有效性，发现仅使用公共数据集上的少量标记数据对BERT进行微调即可高效地生成一个预训练模型IntentBERT，其性能超过现有预训练模型，具有高泛化能力。

Sep, 2021

本研究提出了一种基于提示的方法，使用诸如GPT-3等预训练语言模型来生成带标签的意图分类的训练数据，与需要对数据生成进行任务特定的LM微调的方法相比，该方法不需要超参数调整，即使在训练数据非常缺乏的情况下也适用，并且评估结果表明，当考虑到的意图彼此足够不同时，GPT生成的数据可以显著提高意图分类器的性能；而在半导体上的那些任务中，生成的数据的效果较差，原因是GPT经常生成错误的语句，而不是所需的语句。

Apr, 2022

探讨了用于意图识别的广义零射击模式，并使用句子对建模方法，通过任务转移进一步提高性能，使用语境编码器的预训练技术使模型适用于主要且适应不断变化的应用。

Jun, 2022

提出了一种名为USNID的新框架，它通过三种主要技术实现了无监督半监督的新意图发现，包括利用无监督或半监督数据挖掘浅层语义相似性关系，设计一个质心引导的聚类机制以提供高质量的自我监督目标，以及通过最优化聚类级别和实例级别目标发现细粒度意图集群，该框架在多个意图基准数据集上表现出色，并在无监督和半监督新意图的发现方面取得了最新的最高成果，证明了在不同的聚类数下其鲁棒性表现良好

Apr, 2023

本文探讨了在低资源环境下使用领域适应、数据增强、零样本分类以及参数高效的微调等四种方法来解决对话NLU提供商在扩展到数千个意图分类模型时遇到的存储空间限制问题，结果表明这些方法对于不同程度的低资金环境下效果有效，在使用T-few配方提出的参数高效昆虫微调语言模型的Flan-T5上获得了最佳性能，即使只有一个样本每意图。我们还展示了使用意图描述促进LLM的零样本方法。

May, 2023

本研究提出一种使用对比学习和伪标签的方法来预训练文本编码器，旨在提高任务导向对话系统中意图分类的性能。通过在四个意图分类数据集上进行实验，我们的预训练意图感知编码器 (PIE) 模型相比于现有最先进的预训练句子编码器，在N路零/一次测试中获得了高达5.4%和4.0%的精度提高。

May, 2023

通过使用三个任务（意图分类、意图聚类和新颖的三元组任务）来评估意图嵌入模型在语义理解方面的能力，研究使用预训练方法和数据增强来改善意图嵌入模型在实际对话系统中的性能。

Mar, 2024