Oct, 2023

APP: 自适应典型伪标记用于少样本类外检测

HTML
PDF
TL;DR本文提出了一种自适应原型伪标记（APP）方法，用于少样本场景下的域外意图检测，包括使用有限的内部数据促进低资源的域外意图检测的原型域外意图检测框架（ProtoOOD），以及产生高质量伪域外和域内标签的自适应伪标记方法。大量的实验和分析证明了我们方法在少样本场景下的域外意图检测的有效性。
发现论文，激发创造
  • 无监督领域外检测的似然比和生成式分类器在任务导向型对话中的应用

    该研究探讨了利用似然比和生成分类器的方法在自然语言输入下实现任务导向对话系统的域外检测，并提出了一种利用生成分类器和边际似然值（比率）进行域外检测的方法。

    Dec, 2019

  • 通过自然语言推理进行判别最近邻少样本意图检测

    本文提出了一种基于神经网络的简单而有效的分类方法，结合了自注意力和交叉编码技术，通过最佳匹配训练样本来估计用户的输入，使用NLI传输提高了判别能力，本方法相对RoBERTa和最近邻方法在行业内和OOS检测准确性上更为稳定和准确性更高，尤其是10-shot模型在保持相同推理时间的情况下与50-shot或全量shot分类器竞争。

    Oct, 2020

  • 有监督对比学习建模鉴别性表示进行领域外检测

    本文提出了一种监督对比学习方法和对抗性增强机制，在语义空间中学习以区分任务型对话系统中的域外意图，并实证了该方法对于OOD检测的效果。

    May, 2021

  • 观察邻居：一种统一的K最近邻对比学习框架用于OOD意图发现

    本文提出了一种K最近邻对比学习框架，用于在任务导向式对话系统中发现OOI，它具有两个阶段：IND预训练和OOD聚类。实验结果表明，该方法在三个基准数据集上取得了超越现有技术的显着改进。

    Oct, 2022

  • UniNL: 通过统一邻域学习将表示学习与评分函数对齐，实现OOD检测

    本文提出了一种统一的邻域学习框架 (UniNL) ，用于检测对话系统中的 OOD 意图，该方法在两个基准数据集上的实验证明了其有效性。

    Oct, 2022

  • 估计跨领域意图检测的软标签

    提出了自适应软伪标签 (ASoul) 方法，用于在训练 OOD 检测器时为伪 OOD 样本估计软标签。该方法通过嵌入图捕获伪 OOD 样本和 IND 意图之间的语义连接，并引入协同训练框架来产生结果软标签。在三个基准数据集上的大量实验证明 ASoul 不断改善 OOD 检测性能并优于各种竞争基线。

    Nov, 2022

  • 跨领域意图检测和意图发现的混合架构

    本文介绍了通过使用变分自编码器、非监督聚类等方法，解决了任务导向型对话系统中存在的Out of Scope，Out of Domain等输入识别问题，以及训练Intent Detection模型时的数据集标注问题。在英文和波斯语中的实验结果表明，我们的模型在同时实现OOD/OOS意图检测和意图发现方面取得了优异的性能效果，超越了基准线。

    Mar, 2023

  • 基于多轮对话上下文的领域外意图检测

    本文提出一种上下文感知的out-of-domain意图检测（Caro）框架来模拟多轮对话中的上下文，采用信息瓶颈原理从多轮对话上下文中提取鲁棒特征，并通过多视图信息瓶颈损失去除与意图检测无关的冗余信息，在Caro中探索了利用未标记的数据，这种方法提升了29%以上的F1-ODD分数，实验表明Caro在多轮意图检测任务中取得了最好的表现。

    May, 2023

  • 基于语义角色标注的脱离分布检测

    本文提出了一种基于语义角色标注（SRL）的全局-局部特征学习方法SRLOOD，运用边缘对比损失，将不同参数最细的局部特征和全句的全局特征分离、提取和学习，同时引入自监督学习，该方法在四个OOD基准测试中取得了SOTA效果。

    May, 2023

  • 超越已知：研究LLMs在域外意图检测中的性能

    对大规模语言模型在超出预定义领域内意图检测任务中的能力进行了综合评估，揭示了它们的优势和劣势，发现LLMs表现出强大的零样本和少样本能力，但与使用完整资源进行微调的模型相比仍存在劣势。通过进一步的分析实验，讨论总结了LLMs面临的挑战，并提出了对未来工作的指导，包括注入领域知识、加强从领域内到超领域的知识转移和理解长指令。

    Feb, 2024