了解无人监督的超出分布检测的数据不变量

ECCVNov, 2021

了解无人监督的超出分布检测的数据不变量

Data Invariants to Understand Unsupervised Out-of-Distribution Detection

Lars Doorenbos, Raphael Sznitman, Pablo Márquez-Neila

TL;DR该研究通过对不同基准和图像模态的大规模评估，表明目前最流行的无监督离群检测方法无法一致地优于基于预训练特征和 Mahalanobis 距离的简单异常检测器，并基于对训练数据集中的不变性的表征提出了一个无监督离群检测的特征描述，该特征被运用在 MahaAD 方法中，解释了其质量，并能用于解释无监督离群检测器的预测并提供未来评估的见解。

Abstract

Unsupervised out-of-distribution (U-OOD) detection has recently attracted much attention due its importance in mission-critical systems and broader applicability over its supervised counterpart. Despite this increase in attention, U-OOD methods suffer from important shortcomings. By performing a large-scale evaluation on different benchmarks and image modali

unsupervised out-of-distribution detection anomaly detector pre-trained features mahalanobis distance invariants of the training dataset

发现论文，激发创造

持续无监督的外部分布检测

不断进行未标注 OOD 检测的新设置，使用融合 Mahalanobis 距离和最近邻方法的 U-OOD 评分函数，并设计了一种置信度缩放的少样本 OOD 检测器，大幅改善相关领域的强基准模型。

Jun, 2024

跨数据集 OOD 检测方法的不一致性：缺乏真正的现有技术？

本文研究了 out-of-distribution detection 的各种方法，发现这些方法在一个规范化的 16 个（ID, OOD）数据集组成的标准数据集上并没有本质上的优劣。而在低数据量环境下，Pairwise OOD detection 方法是一种基于 Siamese networks 的距离方法，可以绕过昂贵的协方差估计步骤，在某些（ID, OOD）数据集上表现比 Mahalanobis 方法更好。该研究认为 OOD 检测问题可能过于广泛，需要考虑更具体的结构来利用。

Sep, 2021

基于 OOD 训练数据的许多方法估计相同核心量的组合来分解 OD 检测

本文旨在识别常见的目标，以及识别不同 OOD 检测方法的隐含评分函数。我们展示了许多方法在共享学习方式下表现相似，二进制区分器达到与异常暴露相似的 OOD 检测性能，还展示了置信度损失具有在理论上最优得分函数不同但与训练和测试 out-distribution 相同时的函数相似的隐含评分函数，从实践中发现，这些方法训练方式一致时都表现相似。

Jun, 2022

OpenOOD: 广义越界检测基准测试

本文提出了一个名为 OpenOOD 的统一的、结构化的代码库，该库实现了超过 30 种 ODD 检测方法，并在最近提出的一般化 OOD 检测框架下提供了全面的基准。作者通过对这些方法的全面比较发现，过去几年中，该领域取得了显著进展，其中预处理方法和正交后处理方法显示出很强的潜力。

Oct, 2022

广义的异常检测：综述

本文首先提出一个通用的 OOD 检测框架，其中包括了另外四个相关问题的特例或子任务，然后重点回顾了这五个领域的最新技术发展，特别是 OOD 检测方法，并总结了开放的挑战和潜在的研究方向。

Oct, 2021

深度最近邻实现的超范围检测

本文研究使用非参数最近邻距离方法进行开放世界中一类重要任务：Out-of-distribution 检测，不同于先前的研究，该方法不施加任何分布假设，因此具有更强的灵活性和普适性，在多个基准测试中证明了其有效性，并且相对强基线的 Mahalanobis 距离方法，显著降低了 24.77% 误报率 (FPR@TPR95)。

Apr, 2022

语义一致的异常检测

通过对抗高水平的对抗攻击在半先验条件下训练生成对抗网络来提高生成数据的多样性和质量。

Aug, 2021

统一的超领域检测：基于模型视角

本文提出了一个更广泛的框架来研究模型针对特定因素（如未知类别、协变量变化等) 检测 out-of-distribution（OOD）问题，该框架能够检测出一个训练好的机器学习模型无法正确预测的测试样例，而是否拒绝该测试样例取决于模型本身，该文提供了大量分析和见解，用以改进和理解在不受控制的环境中的 OOD 检测。

Apr, 2023

SSD: 一种自我监督的离群检测统一框架

提出了一种仅基于未标记数据进行自监督表征学习的离群检测器 (SSD)，其使用 Mahalanobis 距离在特征空间中进行检测，并通过 few-shot OOD 检测和有监督训练等两个扩展实现了进一步的改进及最先进性能。

Mar, 2021

医疗领域的离群样本检测基准测试

本文定义三类 Out-of-Distribution Detection 的示例，并在医学图像的三个领域中对常见的方法进行基准测试。结果表明，尽管这些方法对某些类别的 OOB 样本产生良好结果，但它们未能识别接近训练数据分布的图像，作者发现简单的二元分类器在特征表示上具有最佳的平均精度和 AUPRC。

Jul, 2020