通过使用合成物件来模拟 OOD 模式,本文展示了应用马氏距离的最佳层取决于 OOD 模式的类型,没有一种一刀切的解决方案。本文还表明将 OOD 检测器分为网络的不同深度可以增强对不同 OOD 模式的鲁棒性。这些结果对于使用马氏距离进行 OOD 检测的最佳实践具有启发作用。
Sep, 2023
研究提出一种名为相对马氏距离(Relative Mahalanobis Distance)的改进方法,相对于原有的 Mahalanobis 距离,在检测神经网络模型中的近似样本(Near-OOD Detection)和超参数选择上表现更好,该方法在多种困难视觉、语言和生物学场景中实现了显著的定位比率(AUROC)提升,特别是在基因组学中,提高了高达 15% 的 AUROC。
Jun, 2021
在本研究中,我们提出了一种新的损失函数和网络训练方法,以提高密度感知的开放世界环境中对异常和越界样本的检测能力,并在 CIFAR-10 数据集上进行了验证,将相对马氏距离方法在远距离越界任务中的错误正例率降低了 50% 以上。
Nov, 2023
该研究通过对不同基准和图像模态的大规模评估,表明目前最流行的无监督离群检测方法无法一致地优于基于预训练特征和 Mahalanobis 距离的简单异常检测器,并基于对训练数据集中的不变性的表征提出了一个无监督离群检测的特征描述,该特征被运用在 MahaAD 方法中,解释了其质量,并能用于解释无监督离群检测器的预测并提供未来评估的见解。
Nov, 2021
我们提出了一个简单而有效的无监督马氏距离特征方法,在流行的 wav2vec 2.0 变换器式方言分类器模型的所有中间层的潜在嵌入上进行多任务学习,用于检测超出分布的样本,并在 OOD 检测方法方面显著优于其他最先进的方法。
Aug, 2023
本文针对在安全关键应用中如自主车辆系统的分类验证需求,提出了在潜变量空间中使用马氏距离来捕获偏离已知正常样本和模型参数定义的潜变量流形之间的异常值,以提高异常检测性能。
Dec, 2018
本文提出了一种基于自监督的新颖性检测方法,通过计算入内分布数据(in-distribution)和待检测的外部分布数据(OOD)之间的梯度马氏距离,并借助自监督二元分类器协助选择标签以优化梯度的方法,将其应用于数据监控、行为分析和其他应用,并在多个数据集上实现了比基准方法更优秀的结果。
Dec, 2021
本文研究了 out-of-distribution detection 的各种方法,发现这些方法在一个规范化的 16 个(ID, OOD)数据集组成的标准数据集上并没有本质上的优劣。而在低数据量环境下,Pairwise OOD detection 方法是一种基于 Siamese networks 的距离方法,可以绕过昂贵的协方差估计步骤,在某些(ID, OOD)数据集上表现比 Mahalanobis 方法更好。该研究认为 OOD 检测问题可能过于广泛,需要考虑更具体的结构来利用。
Sep, 2021
介绍了一种轻量、快速、高性能的正则化方法用于 Mahalanobis 距离的不确定性预测,并需要对网络的架构进行最小的更改来推导有利于 Mahalanobis 距离计算的高斯潜在表示。通过在标准 OOD 基准测试上进行评估,证明了该方法在最小推理时间内实现了最先进的 OOD 检测结果,并且在预测概率校准方面非常有竞争力。
May, 2023
本文研究使用非参数最近邻距离方法进行开放世界中一类重要任务:Out-of-distribution 检测,不同于先前的研究,该方法不施加任何分布假设,因此具有更强的灵活性和普适性,在多个基准测试中证明了其有效性,并且相对强基线的 Mahalanobis 距离方法,显著降低了 24.77% 误报率 (FPR@TPR95)。
Apr, 2022