Dec, 2023

GROOD：插值流形中的梯度感知外部分布检测

PDF
TL;DR使用渐变空间和类原型增强深度神经网络（DNN）在图像分类中的离群样本检测
deep neural networksout-of-distribution detectiongradient spaceprototypeood score
发现论文，激发创造
  • 探测野外分布移变的梯度重要性

    本文提出了一种名为 GradNorm 的基于梯度空间的方法，通过利用从梯度空间提取的信息来检测异常数据，可以降低平均误警率（FPR95）高达 16.33％，相对于现有最佳方法效果更好。

    Oct, 2021

  • 梯度正则化的离群样本检测

    利用损失函数的梯度信息进行训练，实现神经网络在离分布数据上的检测，并通过能量采样方法提高模型性能。

    Apr, 2024

  • GradOrth: 基于梯度正交投影的简单且高效的外样本检测

    我们提出了一种名为 GradOrth 的新方法，通过计算对于内分布数据重要的子空间上梯度投影的范数，从而识别出分布外数据。与现有方法相比，该简单而有效的方法在平均假阳率 95% 真阳率（FPR95）下的表现有显著提升，假阳率降低了高达 8%。

    Aug, 2023

  • 低维度梯度有助于外部分布检测

    通过对梯度信息进行线性降维，结合现有的检测评分函数，我们的方法在各种检测任务中展示了卓越的性能，例如在 ImageNet 基准测试中，我们的方法相较于当前最先进方法，在 95% 召回率时，假阳性率平均减少了 11.15%。

    Oct, 2023

  • GOOD-D: 无监督图形外分布检测

    本研究旨在通过无监督学习的方式，利用图像对 OOD 图像进行检测，提出了一种基于对比学习的 GOOD-D 图像对比学习框架，并使用基于层级对比学习的方法捕捉潜在的 ID 模式，能够在不使用任何 ground truth 标签的情况下准确检测 OOD graphs，并建立了一个综合基准来比较我们的提出的方法和不同的最先进的方法，实验结果证明了我们方法的卓越性。

    Nov, 2022

  • GROD：利用外部分布检测增强 Transformer 的泛化性能

    基于 OOD 检测的 Generate Rounded OOD Data (GROD) 算法通过惩罚 OOD 数据的错误分类和生成合成异常值来增强 Transformer 网络在各种任务上的泛化性能，并在不同数据类型的 NLP 和 CV 中的各种 OOD 检测任务中达到了 SOTA 水平。

    Jun, 2024

  • 通过白化线性判别分析进行深度神经网络未知数据检测

    本研究提出了一种新的特征空间离群点检测算法，使用去白线性判别分析将特征投影到判别子空间和残差子空间中，并结合两个子空间中输入数据与内部分布偏差的大小确定离群点得分，证明了该算法在大规模数据集上的优越性及其对深度分类器的有效性，并在具有对比目标训练的表示空间中更有效地检测新概念。

    Mar, 2023

  • 基于能量的图神经网络异常检测

    针对图形数据的 OOD 检测问题，本论文提出了一种基于图神经网络的能量函数的有效 OOD 鉴别器，命名为 GNNSafe，并在模拟和真实数据集上的评估中证明了它的性能优于现有技术。

    Feb, 2023

  • 利用子空间技术和特征的概率建模进行样本外检测

    本文提出了一种基于降维增强深度神经网络（DNN）的离群检测方法：通过对高维特征进行线性与非线性降维，得到更真实的特征嵌入子空间，利用其计算分布学习和特征重构误差有效地检测不在分布内的样本，实验结果表明其效果优于一些已有方法。

    Dec, 2020

  • 深度最近邻实现的超范围检测

    本文研究使用非参数最近邻距离方法进行开放世界中一类重要任务：Out-of-distribution 检测，不同于先前的研究，该方法不施加任何分布假设，因此具有更强的灵活性和普适性，在多个基准测试中证明了其有效性，并且相对强基线的 Mahalanobis 距离方法，显著降低了 24.77% 误报率 (FPR@TPR95)。

    Apr, 2022