May, 2022

在構建越域檢測器時，正確分類預測樣本至關重要：對 Marek 等人（2021）的答覆

PDF
TL;DR本论文探讨了利用生成对抗网络生成伪 OOD 样本来提高基于 IND 分类器对 OOD 样本检测性能的方法，并通过熵正则化项进行优化，同时观察研究表明更强的 IND 分类器能更好地识别 OOD 样本，希望这些发现可对其他研究人员提供有益的帮助。
generative adversarial networkood detectionentropy regularizationind classifierpseudo ood samples
发现论文，激发创造
  • 对话系统中自然语言理解的领域外检测

    本文提出了一种基于自动编码器和生成对抗网络生成伪 OOD 样本来提高 NLU 中 OOD 检测性能的新模型，同时也演示了未标注数据可以进一步提高这些伪 OOD 数据的有效性。

    Sep, 2019

  • OodGAN: 用于域外数据生成的生成对抗网络

    使用 SeqGAN 的 OodGAN 模型，可直接处理文本数据而无需附加自编码器组件，生成的 OOD 数据优于 ROSTD 和 OSQ 数据集的现有模型，因其相应的假阳性率的 FPR 0.95 相对提高了 67％和 28％（Zheng et al.，2020）。

    Apr, 2021

  • 度量学习与自适应边界用于域外检测

    设计了一种基于度量学习和自适应决策边界的 OOD 检测算法，相较于其他算法，在类别数量较少的情况下显著提高 OOD 性能，保持了 IND 类别的准确性。

    Apr, 2022

  • 领域内外样本间语义相似度估计

    提出了多种关于 OOD 定义的系统分析，通过在 12 个不同任务的数据集上进行广泛的评估，发现无监督度量有着可靠地识别 OOD/OODist 样本的潜力。

    Jun, 2023

  • 有监督对比学习建模鉴别性表示进行领域外检测

    本文提出了一种监督对比学习方法和对抗性增强机制，在语义空间中学习以区分任务型对话系统中的域外意图，并实证了该方法对于 OOD 检测的效果。

    May, 2021

  • 无监督领域外检测的似然比和生成式分类器在任务导向型对话中的应用

    该研究探讨了利用似然比和生成分类器的方法在自然语言输入下实现任务导向对话系统的域外检测，并提出了一种利用生成分类器和边际似然值（比率）进行域外检测的方法。

    Dec, 2019

  • 分类器中的数据分布外检测 via 生成

    本文中，我们通过研究生成 “有效” 的 OOD 样本的复杂性，分析了调整之前的方法的可行性。我们提出了一种使用流形学习网络（例如变分自编码器）生成这些样本的新算法，然后训练一个 $n+1$ 分类器来检测 OOD，其中第 $n+1$ 类代表 OOD 样本。我们在 MNIST 和 Fashion-MNIST 数据集上将我们的方法与几种最近的基于分类器的 OOD 检测器进行了比较，实验表明我们的方法总体上表现更好。

    Oct, 2019

  • 鲁棒语言模型的伪 OOD 训练

    本文提出 POORE - POsthoc pseudo-Ood REgularization 框架，通过在内部数据中生成伪 OOD 数据进行 fine-tune，通过引入新的正则化损失来分离 IND 和 OOD 数据的嵌入，提高了 OOD 预测任务的准确度，相较现有方法在三个实际对话系统上获得了最新的技术进展。

    Oct, 2022

  • 基于假设驱动的深度学习进行外部分布检测

    我们提出了一种基于假设的方法来确定新样本是属于训练集范围内还是超出范围，在黑盒系统中，通过深度神经网络 (DNN) 计算超出范围 (Out-of-Distribution, OoD) 的隐含回应，并将 OoD 检测问题形式化为不同组的隐含回应之间的假设检验。我们将这种方法应用于一个训练好的深度学习模型，用以检测未知的细菌样本，并展示了其在 InD 和 OoD 隐含回应之间揭示了可解释的差异。该方法对于系统性的新颖性检测和基于子标签训练的分类器的明智决策具有重要意义。

    Mar, 2024

  • SLU 中意图分类和跨领域检测的泛化增强

    该研究提出了一种使用领域正则化模块的方法，仅使用 In-domain 数据培训模型，支持 In-domain 意图分类和 Out-of-domain 检测，并在 4 个数据集上达到了最先进的性能。

    Jun, 2021