超几何度量学习用于视觉异常检测
提出了一种基于超球嵌入的新型表示学习框架 CIDER,该框架共同优化两个损失,以促进强的 ID-OOD 可分离性,并通过分析在超球空间中嵌入特性与 OOD 检测性能之间的关系,演示了离散度和紧凑性的重要性,结果表明 CIDER 表现优异,FPR95 比最新对手高出 19.36 %。
Mar, 2022
该研究提出了一种将深度度量学习和扩散模型结合起来的新方法,用于通过合成数据对于分布外(OOD)进行检测,并证明基于度量学习的损失函数优于 softmax,在生成的 OOD 数据上的训练使得模型在传统 OOD 检测指标上表现优于强基线模型。
May, 2024
提出了一种名为 HYPO(HYPerspherical OOD generalization)的新颖框架,利用高维球面空间证明性地学习域不变的特征表示,并提供了在类内变异性和类间分离性原则下进行指导的超球面学习算法,优化了域外泛化界限。通过对具有挑战性的域外基准的广泛实验,证明了该方法优于竞争基线并取得了卓越性能。
Feb, 2024
机器学习模型在野外部署时可能会受到未知类别的离群数据的挑战。最近对 OOD 检测的进展依赖于距离度量,以区分相对于内部分布数据而言相对较远的样本。尽管有前景,但基于距离的方法可能受到维度灾难问题的困扰,从而限制了在高维特征空间中的功效。为解决这个问题,我们提出了一种新颖的框架 Subspace Nearest Neighbor(SNN)用于 OOD 检测。在训练中,我们的方法通过利用最相关的子维度(即子空间)来规范化模型及其特征表示。子空间学习产生了 ID 和 OOD 数据之间高度可区分的距离度量。我们提供了全面的实验证明 SNN 的有效性。与当前最佳的基于距离的方法相比,SNN 在 CIFAR-100 基准测试中将平均 FPR95 降低了 15.96%。
Dec, 2023
本文研究使用非参数最近邻距离方法进行开放世界中一类重要任务:Out-of-distribution 检测,不同于先前的研究,该方法不施加任何分布假设,因此具有更强的灵活性和普适性,在多个基准测试中证明了其有效性,并且相对强基线的 Mahalanobis 距离方法,显著降低了 24.77% 误报率 (FPR@TPR95)。
Apr, 2022
提高了 Out-of-Distribution 检测的效率和效果的平衡,通过使用特征空间、决策边界和不需要辅助模型的方法,实现了与现有方法相媲美甚至更好的效果,并且在推理延迟方面几乎没有明显的开销。
Dec, 2023
我们提出了一种名为 Outlier Aware Metric Learning (OAML) 的框架,通过 k-NN 算法和稳定扩散模型在特征级别生成用于训练的异常样本,以提高语义空间中的特征差异,并结合基于互信息的对比学习方法,有效地利用 OOD 数据进行学习。此外,我们将知识蒸馏引入学习框架,以防止内部分类准确性的降低。通过对比学习和知识蒸馏算法的结合,我们的方法在各种数据集上显著优于以前的 OE 方法。
Jun, 2024
设计了一种基于度量学习和自适应决策边界的 OOD 检测算法,相较于其他算法,在类别数量较少的情况下显著提高 OOD 性能,保持了 IND 类别的准确性。
Apr, 2022
机器学习中,识别推理数据是否超出模型的预期输入分布对于给出预测的上下文至关重要。我们的研究针对基于表示或基于逻辑方法的超出分布检测方法,并提出了用于特征嵌入降维的表示方法和解决了一个问题的基于逻辑方法。我们在 OpenOODv1.5 基准框架上验证了我们方法的有效性,结果显示性能显著提升,并达到了最新的技术水平。
Jan, 2024
本文提出了一种基于组的 OOD 检测框架和一种新颖的 OOD 评分函数 MOS,通过将大语义空间分解成具有相似概念的小组,简化内部与外部数据之间的决策边界,从而使得面对高维度分类空间的场景下,我们的方法比以前的方法更为有效。在四个精心策划的 OOD 数据集上进行了评估,证明了 MOS 的性能优越,相比之前最好的方法,平均 FPR95 降低 14.33%,推理速度提高 6 倍。
May, 2021