Jun, 2023

多层次离群检测的函数数据视角和基线

PDF
TL;DR采用了一种基于网络的功能视图方法，通过提取多层分类器中的统计模式和关系来探测样本轨迹中的异常，从而改进了流行的过度分布检测方法。
out-of-distribution detectionneural networkmulti-layer classifierfunctional viewanomaly detection
发现论文，激发创造
  • 适应层深度神经网络用于区分分布外数据

    本文提出了一种新的适用于深度神经网络（DNNs）的层自适应 OOD 检测框架（LA-OOD），该框架能够充分利用中间层的输出，通过在中间层同时训练多个 One-Class SVM OOD 探测器，以利用在 DNNs 不同深度上编码的完整光谱特征，而非仅集中于末端层特征，我们开发了一个简单而有效的层自适应策略来识别最佳层以便检测每个潜在的 OOD 样例。

    Mar, 2022

  • 多层级聚合作为基于特征的 OOD 检测关键

    通过对大量的异常数据进行实验比较，我们发现基于特征的异常检测方法中，多层方法始终表现优异，而单层方法的性能不稳定且取决于异常类型，同时异常检测的性能也高度依赖于神经网络的架构。

    Jul, 2023

  • 通过隐式层集成增强自然语言理解中的外部分布检测

    该论文提出了一种基于对比学习的框架，旨在有效地进行 out-of-distribution 检测，利用预训练的语言模型吸收丰富的信息，并在意图分类和异常检测等数据集中取得了显著的效果。

    Oct, 2022

  • 使用早期层输出在深度神经网络中检测超范围输入

    本研究提出了一种新的的基于输出层的单类分类器方法用于检测深层分类器中的异常值输入，该方法无需访问 OOD 样本且在低维和高维数据集上表现出优异的性能指标。

    Oct, 2019

  • 基于 OOD 训练数据的许多方法估计相同核心量的组合来分解 OD 检测

    本文旨在识别常见的目标，以及识别不同 OOD 检测方法的隐含评分函数。我们展示了许多方法在共享学习方式下表现相似，二进制区分器达到与异常暴露相似的 OOD 检测性能，还展示了置信度损失具有在理论上最优得分函数不同但与训练和测试 out-distribution 相同时的函数相似的隐含评分函数，从实践中发现，这些方法训练方式一致时都表现相似。

    Jun, 2022

  • 多测试的层级特征融合增强外部分布检测

    提出一种名为多测试层级异分布检测（MLOD）的框架，通过严格的多测试程序，在不需要修改或微调预训练分类器的结构的情况下，能够在不同特征层级上识别测试样本中的分布偏移，并通过有效利用不同深度的特征提取器，有效提高异分布检测性能。

    Mar, 2024

  • 利用重要神经元进行线外检测 (LINe)

    提出了一种新的基于神经元分析的方法，Leveraging Important Neurons (LINe)，通过使用 Shapley 值剪枝和激活截断等方法实现后置 OOD 检测。在 CIFAR-10，CIFAR-100 和 ImageNet 测试数据上，该方法表现出比其他现有后置 OOD 检测方法更高的有效性。

    Mar, 2023

  • Model2Detector：使用少量梯度步骤拓宽信息瓶颈以进行外部分布检测

    通过信息论角度分析，本文提出一种将训练好的神经网络转换为 ODD 检测器的方法，该方法使用少量梯度下降步骤，且在流行的图像数据集上准确性优于现有方法，并且减少了计算复杂度。

    Feb, 2022

  • MOOD: 多层次的分布外检测

    本论文提出了一种新的多层级的离群检测框架 MOOD，通过中间分类器的输出进行动态且高效的离群推理，调整能量分数可以有效地检测简单的离群值，从而实现高达 71.05％的计算减少并保持竞争力的离群检测性能。

    Apr, 2021

  • 梯度正则化的离群样本检测

    利用损失函数的梯度信息进行训练，实现神经网络在离分布数据上的检测，并通过能量采样方法提高模型性能。

    Apr, 2024