在本研究中，我们提出了一种新的损失函数和网络训练方法，以提高密度感知的开放世界环境中对异常和越界样本的检测能力，并在 CIFAR-10 数据集上进行了验证，将相对马氏距离方法在远距离越界任务中的错误正例率降低了 50% 以上。

Nov, 2023

本文提出了一种使用只有训练集数据的预训练 Transformer 进行无监督的离群检测方法，该方法使用对比度损失调整 Transformer。最终使用马哈拉诺比斯距离来检测异常数据，实验表明，本文方法的性能超过了基准线，并且更紧凑的表示方法是改进的基础。

Apr, 2021

通过使用合成物件来模拟 OOD 模式，本文展示了应用马氏距离的最佳层取决于 OOD 模式的类型，没有一种一刀切的解决方案。本文还表明将 OOD 检测器分为网络的不同深度可以增强对不同 OOD 模式的鲁棒性。这些结果对于使用马氏距离进行 OOD 检测的最佳实践具有启发作用。

Sep, 2023

本文研究使用非参数最近邻距离方法进行开放世界中一类重要任务：Out-of-distribution 检测，不同于先前的研究，该方法不施加任何分布假设，因此具有更强的灵活性和普适性，在多个基准测试中证明了其有效性，并且相对强基线的 Mahalanobis 距离方法，显著降低了 24.77% 误报率 (FPR@TPR95)。

Apr, 2022

使用 SupCon 训练从训练分布中识别外分布样本是机器学习模型安全部署中的重要问题。我们在这项工作中运用强大的 SupCon 学习表征，并提出了一种全面的方法来学习对 OOD 数据稳健的分类器。我们通过增加两个对比项来扩展 SupCon 损失，第一个项将辅助 OOD 表征与 ID 表征分开，而不对辅助数据的相似性产生任何约束。第二个项将 OOD 特征远离现有类原型，并将 ID 表征推近其对应的类原型。当辅助 OOD 数据不可用时，我们提出了特征混合技术来高效生成伪 OOD 特征。我们的解决方案简单高效，作为闭集监督对比表征学习的自然扩展。我们在常见基准测试中与不同的 OOD 检测方法进行了比较，并展示了最先进的结果。

Oct, 2023

通过使用马氏距离后处理肝脏磁共振成像的 Swin UNETR 模型的瓶颈特征，通过主成分分析降低瓶颈特征的维度，高效且计算负载最小地检测到了分布外的图像。

Aug, 2023

研究提出一种名为相对马氏距离（Relative Mahalanobis Distance）的改进方法，相对于原有的 Mahalanobis 距离，在检测神经网络模型中的近似样本（Near-OOD Detection）和超参数选择上表现更好，该方法在多种困难视觉、语言和生物学场景中实现了显著的定位比率（AUROC）提升，特别是在基因组学中，提高了高达 15% 的 AUROC。

Jun, 2021

我们研究了在监督学习和无监督学习环境中在测试时高效检测超出分布（OOD）样本的问题。通过统计检测重新定义 OOD 问题，研究了在统计术语中使 OOD 问题可识别的条件，并在 Wasserstein 距离的基础上研究了 OOD 测试的收敛性保证，并提供了简单的实证评估。

May, 2024

通过在基于 transformer 的语言模型中的注意力图上应用拓扑数据分析（TDA）来检测超出分布（OOD）的文本样本。我们评估了我们提出的基于 TDA 的 OOD 检测方法在 BERT 上的效果，并与基于 BERT CLS 嵌入的传统 OOD 方法进行了比较。我们发现，我们的 TDA 方法在区分内部数据（HuffPost 的政治和娱乐新闻文章）与远离领域样本（IMDB 评论）方面优于 CLS 嵌入方法，但其效果在接近领域（CNN / Dailymail）或相同领域（HuffPost 的商业新闻文章）数据集上逐渐减弱。

Nov, 2023

通过对大型语言模型进行实证研究，本文发现余弦距离的异常检测器表现出卓越的效力，优于其他异常检测器，并通过强调大型语言模型嵌入空间的各向同性特征，提供了对这一现象的有趣解释，进一步增强了我们对大型语言模型在检测异常数据方面的适应性和可靠性。

Aug, 2023