ACLApr, 2019

对话系统中的异常值检测，提高数据质量和多样性

PDF
TL;DR使用神经句向量和基于距离的异常检测技术，本文介绍了一种检测短文本语料中错误和独特样本的技术，并提出了一种新的数据采集流程，可以同时去除错误数据和自动挖掘独特数据，实验结果表明，该技术可以有效地发现错误并产生更鲁棒的意图分类和槽位填充模型。
outliersdata cleaningdialog systemsneural sentence embeddingsdata collection
发现论文，激发创造
  • 通过异常值检测优化增强情感分析结果

    通过使用 Deep SVDD 算法识别和处理主观标签中的异常值，以提升分类效果。研究结果表明，在大多数情况下，删除异常值可以改善结果，并且大型语言模型 DeBERTa v3 可以捕捉到复杂模式从而提高性能。

    Nov, 2023

  • 文本分类任务中传统的外部分布检测方法的基准测试

    本文着重介绍了现有方法在处理 NLP 中 OOD 检测时的局限性，对八种常见的 OOD 检测方法进行了评估并分析了其存在的问题，发现现有方法对于各类型分布偏移的检测敏感性不够，在领域内文本中存在令人困惑的测试场景，而需要开发更有效的 OOD 检测方法，本文为未来的研究提供了一个良好的、定义明确的基础。

    Jul, 2023

  • 文本异常暴露在视觉 OoD 检测中的有效性研究

    利用生成的文本异常值，进行视觉异常值探测，以提高神经网络的安全性，该方法在大规模 OoD 和困难 OoD 基准测试中取得了竞争性的性能。

    Oct, 2023

  • 在自然环境中训练 OOD 检测器

    本文提出了一种基于野外混合数据的新颖框架，旨在改进在野外部署的机器学习模型的 OOD 检测能力，通过最大化 OOD 检测率并设定 ID 数据的分类误差和 ID 示例的 OOD 错误率的约束条件的学习目标，有效地解决了这个问题，并在常见的 OOD 检测任务中获得了优异的性能。

    Feb, 2022

  • 对话系统中自然语言理解的领域外检测

    本文提出了一种基于自动编码器和生成对抗网络生成伪 OOD 样本来提高 NLU 中 OOD 检测性能的新模型，同时也演示了未标注数据可以进一步提高这些伪 OOD 数据的有效性。

    Sep, 2019

  • DOS: 多样化异常样本采样用于外分布检测

    该论文指出样本多样性对于 ODD 检测的关键作用，在此基础上提出一种名为 DOS（多元异常值采样）的采样策略，可以有效地降低平均 FPR95。

    Jun, 2023

  • 文本数据深度学习异常检测方法

    使用深度学习和变换器架构结合经典机器学习算法以检测和识别文本中的异常，将所有文本上下文转换为数字表示。

    Nov, 2022

  • 自然语言处理中的超领域检测综述

    本文回顾了最近关于 out-of-distribution 检测的进展，重点关注了自然语言处理方面的方法。通过分类和介绍数据集、应用和评估指标，总结了现有的研究，同时提出了未来的研究方向。

    May, 2023

  • 通过隐式层集成增强自然语言理解中的外部分布检测

    该论文提出了一种基于对比学习的框架，旨在有效地进行 out-of-distribution 检测，利用预训练的语言模型吸收丰富的信息，并在意图分类和异常检测等数据集中取得了显著的效果。

    Oct, 2022

  • 度量学习与自适应边界用于域外检测

    设计了一种基于度量学习和自适应决策边界的 OOD 检测算法，相较于其他算法，在类别数量较少的情况下显著提高 OOD 性能，保持了 IND 类别的准确性。

    Apr, 2022