Jun, 2021

SLU 中意图分类和跨领域检测的泛化增强

PDF
TL;DR该研究提出了一种使用领域正则化模块的方法，仅使用 In-domain 数据培训模型，支持 In-domain 意图分类和 Out-of-domain 检测，并在 4 个数据集上达到了最先进的性能。
intent classificationspoken language understandingout-of-domain detectiondomain-regularized modulebert
发现论文，激发创造
  • 对话系统中自然语言理解的领域外检测

    本文提出了一种基于自动编码器和生成对抗网络生成伪 OOD 样本来提高 NLU 中 OOD 检测性能的新模型，同时也演示了未标注数据可以进一步提高这些伪 OOD 数据的有效性。

    Sep, 2019

  • 超越已知：研究 LLMs 在域外意图检测中的性能

    对大规模语言模型在超出预定义领域内意图检测任务中的能力进行了综合评估，揭示了它们的优势和劣势，发现 LLMs 表现出强大的零样本和少样本能力，但与使用完整资源进行微调的模型相比仍存在劣势。通过进一步的分析实验，讨论总结了 LLMs 面临的挑战，并提出了对未来工作的指导，包括注入领域知识、加强从领域内到超领域的知识转移和理解长指令。

    Feb, 2024

  • 无需领域内标签：文本领域外检测

    本研究旨在解决无法获取 in-domain 数据标签的情况下，从语言模型和表示学习的角度，通过无监督的聚类和对比学习的结合，对 OOD 检测进行更好的数据表示学习，实验证明该方法的性能显著优于基于概率的方法，并且可以与基于标签信息的监督方法竞争。

    Mar, 2022

  • 有监督对比学习建模鉴别性表示进行领域外检测

    本文提出了一种监督对比学习方法和对抗性增强机制，在语义空间中学习以区分任务型对话系统中的域外意图，并实证了该方法对于 OOD 检测的效果。

    May, 2021

  • 跨领域意图检测和意图发现的混合架构

    本文介绍了通过使用变分自编码器、非监督聚类等方法，解决了任务导向型对话系统中存在的 Out of Scope，Out of Domain 等输入识别问题，以及训练 Intent Detection 模型时的数据集标注问题。在英文和波斯语中的实验结果表明，我们的模型在同时实现 OOD/OOS 意图检测和意图发现方面取得了优异的性能效果，超越了基准线。

    Mar, 2023

  • 广义意图发现：从开放世界对话系统中学习

    提出了一种新的任务 —— 广义意图发现（GID），旨在将传统的领域内意图分类器扩展到包括领域外意图在内的开放世界意图集。为未来的工作提出了基于管道和端对端两种框架，并构建了三个不同应用场景的公共数据集，通过详尽实验和定性分析，为未来 GID 研究提供了新的指导。

    Sep, 2022

  • 度量学习与自适应边界用于域外检测

    设计了一种基于度量学习和自适应决策边界的 OOD 检测算法，相较于其他算法，在类别数量较少的情况下显著提高 OOD 性能，保持了 IND 类别的准确性。

    Apr, 2022

  • 无监督领域外检测的似然比和生成式分类器在任务导向型对话中的应用

    该研究探讨了利用似然比和生成分类器的方法在自然语言输入下实现任务导向对话系统的域外检测，并提出了一种利用生成分类器和边际似然值（比率）进行域外检测的方法。

    Dec, 2019

  • 使用动态类别加权联合学习领域分类和域外检测以达到适当的假接受率

    本文提出了一种基于神经联合学习模型的领域分类和 OOD 检测方法，在模型训练中使用动态类别加权以满足所需的 OOD 假接受率，同时最大化领域分类准确性，实验结果表明该方法显著提高了大型口语对话系统的领域分类性能。

    Jun, 2018

  • 估计跨领域意图检测的软标签

    提出了自适应软伪标签 (ASoul) 方法，用于在训练 OOD 检测器时为伪 OOD 样本估计软标签。该方法通过嵌入图捕获伪 OOD 样本和 IND 意图之间的语义连接，并引入协同训练框架来产生结果软标签。在三个基准数据集上的大量实验证明 ASoul 不断改善 OOD 检测性能并优于各种竞争基线。

    Nov, 2022