Oct, 2023

FLatS：基于特征的似然比分数的原则性异常检测

PDF
TL;DR通过似然比来测量测试样例 x 的 “OOD-ness”，本文主张基于似然比的新型 OOD 检测方法 FLatS，提出了一种优于现有方法的模型，该模型能够作为一个通用框架，通过整合 “out-distribution” 密度估计 $p_{out}(x)$ 来提高其他 OOD 检测方法的性能，在流行的基准测试上表现出了新的 SOTA。
out-of-distributionnlp modelslikelihood ratioflatssota
发现论文，激发创造
  • 机器学习研究人员关于 OOD 检测的错误信念

    本文提出了一个 OOD 代理框架，统一了许多最近提出的基于似然比的方法，并指出似然比是一种原则性的 OOD 检测方法，而不是简单的方法修正。此外，还讨论了领域区分和语义之间的关系。

    Oct, 2022

  • 一种简单的测试时间方法用于识别非分布检测

    本文提出了一种基于线性回归的测试时间训练方法，将输入图像的特征与其推断出的异常检测 (OOD) 分数进行配对，并在实现更精确的 OOD 检测上取得了很好的效果。

    Jul, 2022

  • 用于识别样本分布外点的似然比

    研究讨论了关于基于基因组序列的细菌识别的 out-of-distribution (OOD) inputs 问题，提出了用于深度生成模型的似然比方法来纠正背景统计数据偏差，并在 genomics 数据集上进行了实验。结果表明，我们的方法在 OOD 检测方面取得了最好的性能，并且我们证明了该方法的广泛适用性。

    Jun, 2019

  • 多测试的层级特征融合增强外部分布检测

    提出一种名为多测试层级异分布检测（MLOD）的框架，通过严格的多测试程序，在不需要修改或微调预训练分类器的结构的情况下，能够在不同特征层级上识别测试样本中的分布偏移，并通过有效利用不同深度的特征提取器，有效提高异分布检测性能。

    Mar, 2024

  • 全谱外部分布检测的似然感知语义对齐

    提出一种称为 Likelihood-Aware Semantic Alignment（LSA）的框架，以促进图像和文本的对应关系，针对全谱带外分布检测进行语义相关性的调整，并在复杂的领域转换中适应性地识别有正常分布的样本。

    Dec, 2023

  • 您的精调大型语言模型已是强大的超分布检测器

    通过重新审视预训练大型语言模型和其微调变体之间的似然比作为一种区分所需分布检测的标准，我们展示了似然比可以作为一种有效的 OOD 检测器，并将其应用于问题回答系统中以改善 LLMs 在一般问题上的性能。

    Apr, 2024

  • 深度最近邻实现的超范围检测

    本文研究使用非参数最近邻距离方法进行开放世界中一类重要任务：Out-of-distribution 检测，不同于先前的研究，该方法不施加任何分布假设，因此具有更强的灵活性和普适性，在多个基准测试中证明了其有效性，并且相对强基线的 Mahalanobis 距离方法，显著降低了 24.77% 误报率 (FPR@TPR95)。

    Apr, 2022

  • 基于 OOD 训练数据的许多方法估计相同核心量的组合来分解 OD 检测

    本文旨在识别常见的目标，以及识别不同 OOD 检测方法的隐含评分函数。我们展示了许多方法在共享学习方式下表现相似，二进制区分器达到与异常暴露相似的 OOD 检测性能，还展示了置信度损失具有在理论上最优得分函数不同但与训练和测试 out-distribution 相同时的函数相似的隐含评分函数，从实践中发现，这些方法训练方式一致时都表现相似。

    Jun, 2022

  • 一个统一的方法用于主动学习和外域检测

    SISOM is a unified solution that combines the strengths of active learning and out-of-distribution detection, achieving top performance in benchmark evaluations.

    May, 2024

  • 全面的 OOD 检测改进

    机器学习中，识别推理数据是否超出模型的预期输入分布对于给出预测的上下文至关重要。我们的研究针对基于表示或基于逻辑方法的超出分布检测方法，并提出了用于特征嵌入降维的表示方法和解决了一个问题的基于逻辑方法。我们在 OpenOODv1.5 基准框架上验证了我们方法的有效性，结果显示性能显著提升，并达到了最新的技术水平。

    Jan, 2024