Feb, 2024

超越已知：研究 LLMs 在域外意图检测中的性能

PDF
TL;DR对大规模语言模型在超出预定义领域内意图检测任务中的能力进行了综合评估，揭示了它们的优势和劣势，发现 LLMs 表现出强大的零样本和少样本能力，但与使用完整资源进行微调的模型相比仍存在劣势。通过进一步的分析实验，讨论总结了 LLMs 面临的挑战，并提出了对未来工作的指导，包括注入领域知识、加强从领域内到超领域的知识转移和理解长指令。
out-of-domain intent detectionlarge language modelsllmszero-shot capabilitiesfine-tuning
发现论文，激发创造
  • 大型语言模型的超出分布检测能力如何？

    通过对大型语言模型进行实证研究，本文发现余弦距离的异常检测器表现出卓越的效力，优于其他异常检测器，并通过强调大型语言模型嵌入空间的各向同性特征，提供了对这一现象的有趣解释，进一步增强了我们对大型语言模型在检测异常数据方面的适应性和可靠性。

    Aug, 2023

  • 大型语言模型应用于开放领域意图发现和识别的评估：ChatGPT

    ChatGPT 对 OOD 意图探索和广义意图探索进行了全面评估，并概述了 ChatGPT 的优势和劣势。ChatGPT 在零样本设置下展现了一致的优势，但与微调模型相比仍处于劣势。通过一系列分析实验，我们总结和讨论了 LLM 面临的挑战，包括聚类、领域特定理解和跨领域情境学习场景。最后，我们提供了未来解决这些挑战的经验指导。

    Oct, 2023

  • 无需领域内标签：文本领域外检测

    本研究旨在解决无法获取 in-domain 数据标签的情况下，从语言模型和表示学习的角度，通过无监督的聚类和对比学习的结合，对 OOD 检测进行更好的数据表示学习，实验证明该方法的性能显著优于基于概率的方法，并且可以与基于标签信息的监督方法竞争。

    Mar, 2022

  • 探索用于多模态离域检测的大型语言模型

    应用世界知识通过选择性生成大型语言模型并利用一致性基准不确定性校正方法来提高过分布检测性能，通过从每个图像提取视觉对象充分利用前述世界知识，充分实验证明本方法始终优于现有技术。

    Oct, 2023

  • 主题、领域和语言变化的桥梁：综合离域场景的评估

    在真实世界中，语言模型在超出分布范围的场景中的泛化能力变得更低，基于提示的微调方法在语义差异较大的任务中表现更好，而基于梯度的学习存在结构障碍的偏差问题。

    Sep, 2023

  • SLU 中意图分类和跨领域检测的泛化增强

    该研究提出了一种使用领域正则化模块的方法，仅使用 In-domain 数据培训模型，支持 In-domain 意图分类和 Out-of-domain 检测，并在 4 个数据集上达到了最先进的性能。

    Jun, 2021

  • LLM-Detector: 优化 AI 生成的中文文本检测的开源 LLM 指令调优

    本文提出了 LLM-Detector 方法，通过 LLM 指导和解决文档级和句子级的文本检测问题，该方法在句子级和文档级文本检测上明显优于基准方法，并展示了强大的泛化能力。

    Feb, 2024

  • 对话系统中自然语言理解的领域外检测

    本文提出了一种基于自动编码器和生成对抗网络生成伪 OOD 样本来提高 NLU 中 OOD 检测性能的新模型，同时也演示了未标注数据可以进一步提高这些伪 OOD 数据的有效性。

    Sep, 2019

  • 您的精调大型语言模型已是强大的超分布检测器

    通过重新审视预训练大型语言模型和其微调变体之间的似然比作为一种区分所需分布检测的标准，我们展示了似然比可以作为一种有效的 OOD 检测器，并将其应用于问题回答系统中以改善 LLMs 在一般问题上的性能。

    Apr, 2024

  • 跨领域意图检测和意图发现的混合架构

    本文介绍了通过使用变分自编码器、非监督聚类等方法，解决了任务导向型对话系统中存在的 Out of Scope，Out of Domain 等输入识别问题，以及训练 Intent Detection 模型时的数据集标注问题。在英文和波斯语中的实验结果表明，我们的模型在同时实现 OOD/OOS 意图检测和意图发现方面取得了优异的性能效果，超越了基准线。

    Mar, 2023