为何归一化流无法检测到超出分布范围的数据
基于特征密度估计和正态流的无监督型外分布检测方法可应用于任意预训练模型,通过密度阈值实现检测,并在图像分类中表现出强大的远外分布数据检测结果,包括 ImageNet-1k 与纹理的 98.2% AUROC,超过现有技术 7.8%。我们还探讨了预训练模型的特征空间分布与我们方法性能之间的关联,并提供了应用正态流用于外分布检测时的训练陷阱。
Feb, 2024
研究重点是解释深度生成模型中的异常现象机制,提出了 “图像复杂性” 的独立变量概念,并在实验中证明了该问题的有效缓解方法,并在另一个深度生成模型(PixelCNN++)中提供了其假设的潜在应用证据。
Feb, 2024
使用低维流形的测度和距离作为离群检测的标准,实验结果表明流形学习改善了归一化流这一类基于似然模型的离群检测能力,而无需修改模型结构或使用训练期间的辅助离群数据。
Aug, 2023
为了在现实世界中实现可靠的自主机器人部署,对 Out-of-Distribution (OOD) 检测能力的需求很高。基于密度估计和归一化流的 OOD 检测是一种有效方法,但之前的工作尝试使用简单的基础分布拓扑地匹配复杂的目标分布,导致了不利的影响。本文通过使用一个具有表达力的类条件基础分布,基于信息论目标来匹配所需的拓扑结构,从而避免了这种拓扑不匹配问题。所提出的方法在不降低性能和最小化计算开销的同时,提高了 OOD 检测能力。我们在密度估计和 2D 对象检测基准测试中,与广泛的基线模型相比,展现了卓越的结果。此外,我们还展示了该方法在实际机器人部署中的适用性。
Nov, 2023
提出了使用正则化流(normalizing flow)结构的基于能量模型(energy-based model)的检测器 FlowEneDet,可以在不重新训练的情况下扩展早先投入使用的语义分割模型,并在 Cityscapes,Cityscapes-C,FishyScapes 及 SegmentMeIfYouCan 四个基准测试集上实现了良好的检测成果。
May, 2023
Flow-based deep generative models can be used for novelty detection in time series data and outperform traditional methods like the Local Outlier Factor.
Jun, 2019
通过信息论角度分析,本文提出一种将训练好的神经网络转换为 ODD 检测器的方法,该方法使用少量梯度下降步骤,且在流行的图像数据集上准确性优于现有方法,并且减少了计算复杂度。
Feb, 2022
本文提出了一种针对视觉分类中的开放世界场景中的数据分割问题的新方法,该方法能够训练出一个专门针对原始训练集以及更大的 “背景” 数据集的 ODD(出现在分布之外的异常值)检测模型,并在测试复杂自然图像的数据集中得到了优异的表现。
Aug, 2018
该论文提出了一种名为 OODformer 的新型 OOD 检测架构,利用 transformer 的上下文能力来区分内部分布和 OOD 样本,通过视觉注意力利用上下文嵌入提高了分类的通用性,在 CIFAR-10 /-100 和 ImageNet30 上取得了新的最先进成果。
Jul, 2021
该论文提出了一种基于归一化流异常检测器的方法来自适应摄像机参数,小规模研究表明,根据这种超出分布检测器调整相机参数可以导致 YOLOv4 目标检测器的 mAP、mAR 和 F1 性能指标平均增加 3 至 4 个百分点。作为辅助结果,该论文还表明可以在 COCO 数据集上训练用于分布检测的归一化流模型,该数据集比大多数分布检测器的基准数据集更大更具多样性。
May, 2023