Sep, 2019

对话系统中自然语言理解的领域外检测

PDF
TL;DR本文提出了一种基于自动编码器和生成对抗网络生成伪 OOD 样本来提高 NLU 中 OOD 检测性能的新模型，同时也演示了未标注数据可以进一步提高这些伪 OOD 数据的有效性。
natural language understandingout-of-domain detectionpseudo ood samplesautoencodergenerative adversarial network
发现论文，激发创造
  • 无需领域内标签：文本领域外检测

    本研究旨在解决无法获取 in-domain 数据标签的情况下，从语言模型和表示学习的角度，通过无监督的聚类和对比学习的结合，对 OOD 检测进行更好的数据表示学习，实验证明该方法的性能显著优于基于概率的方法，并且可以与基于标签信息的监督方法竞争。

    Mar, 2022

  • 跨领域意图检测和意图发现的混合架构

    本文介绍了通过使用变分自编码器、非监督聚类等方法，解决了任务导向型对话系统中存在的 Out of Scope，Out of Domain 等输入识别问题，以及训练 Intent Detection 模型时的数据集标注问题。在英文和波斯语中的实验结果表明，我们的模型在同时实现 OOD/OOS 意图检测和意图发现方面取得了优异的性能效果，超越了基准线。

    Mar, 2023

  • 仅使用领域内语句的神经句子嵌入在对话系统中检测领域外句子

    为了保证用户体验，本文提出了一种新颖的神经句子嵌入方法，通过在低维连续向量空间中表示句子来区分领域内和领域外的句子，并通过学习以识别领域外的句子。 在八个领域的对话系统中实验比较表明，我们提出的方法在所有测试中都获得了最高的准确性。

    Jul, 2018

  • SLU 中意图分类和跨领域检测的泛化增强

    该研究提出了一种使用领域正则化模块的方法，仅使用 In-domain 数据培训模型，支持 In-domain 意图分类和 Out-of-domain 检测，并在 4 个数据集上达到了最先进的性能。

    Jun, 2021

  • 鲁棒语言模型的伪 OOD 训练

    本文提出 POORE - POsthoc pseudo-Ood REgularization 框架，通过在内部数据中生成伪 OOD 数据进行 fine-tune，通过引入新的正则化损失来分离 IND 和 OOD 数据的嵌入，提高了 OOD 预测任务的准确度，相较现有方法在三个实际对话系统上获得了最新的技术进展。

    Oct, 2022

  • 度量学习与自适应边界用于域外检测

    设计了一种基于度量学习和自适应决策边界的 OOD 检测算法，相较于其他算法，在类别数量较少的情况下显著提高 OOD 性能，保持了 IND 类别的准确性。

    Apr, 2022

  • 无监督领域外检测的似然比和生成式分类器在任务导向型对话中的应用

    该研究探讨了利用似然比和生成分类器的方法在自然语言输入下实现任务导向对话系统的域外检测，并提出了一种利用生成分类器和边际似然值（比率）进行域外检测的方法。

    Dec, 2019

  • 有监督对比学习建模鉴别性表示进行领域外检测

    本文提出了一种监督对比学习方法和对抗性增强机制，在语义空间中学习以区分任务型对话系统中的域外意图，并实证了该方法对于 OOD 检测的效果。

    May, 2021

  • OodGAN: 用于域外数据生成的生成对抗网络

    使用 SeqGAN 的 OodGAN 模型，可直接处理文本数据而无需附加自编码器组件，生成的 OOD 数据优于 ROSTD 和 OSQ 数据集的现有模型，因其相应的假阳性率的 FPR 0.95 相对提高了 67％和 28％（Zheng et al.，2020）。

    Apr, 2021

  • 低资源文本分类任务的领域外检测

    本文提出了一种面对非常低的领域内训练数据进行零样本 out-of-domain 检测和少样本 in-domain 分类的解决方案：一个抗 OOD 的原型网络，通过与当前最新方法的比较，结果显示该方法在 zero-shot OOD 检测任务上效果优于 state-of-the-art 方法，在 ID 分类任务上性能竞争力强。

    Aug, 2019