LAPT:基于标签驱动的自动提示调整用于视觉-语言模型的OOD检测
该研究提出 Maximum Concept Matching(MCM)这一零样本的多模态算法来识别异常数据,利用视觉特征与文本概念进行对齐。研究发现 MCM 比单模态算法在效果上更为优秀,特别是结合视觉-语言特征时。
Nov, 2022
该文章从预训练功能提取器、视觉超出分布(OOD)检测、语言图像预训练模型、对抗性操纵的OOD图像和视觉异常检测等方面进行了全面实验研究,证明了使用最近邻特征相似度作为OOD检测得分的对比语言-图像预训练模型实现了最先进的无监督OOD性能,同时可以在无内部分布微调的情况下获得有监督的最先进OOD检测性能,并指出需要基于实验研究建立新的视觉异常检测基准。
Mar, 2023
我们介绍了一种名为LoCoOp的新方法,它针对few-shot OOD检测进行本地正则化的上下文优化,利用CLIP本地特征的部分作为OOD特征,并展示了它在大规模ImageNet OOD检测基准测试中的优越性。
Jun, 2023
本文探讨了如何通过多模态概念匹配框架来评估诸如CLIP等最新视觉语言模型的fine-tuning方法对于少样本下游任务的超出分布检测性能的影响,并发现所选的ODD得分方法至关重要,MCM得分方法表现最佳,prompt learning在超出分布检测性能上表现最好。
Jun, 2023
在本论文中,我们首先展示了,经过足够时间的微调但没有适当的正则化,视觉-语言模型在给定数据集中往往会过度拟合已知类别,导致对未知类别的表现下降。然后,我们提出了一种新颖的方法OGEN来解决这个问题,在关注点主要是改进经过微调模型的未知类别(OOD)泛化能力。具体而言,我们引入了一种类条件特征生成器,通过仅使用任何未知类别的类名,合成OOD特征。这些合成特征将提供关于未知类别的有用知识,并在联合优化时有助于规范ID和OOD数据之间的决策边界。同样重要的是,我们的自适应自蒸馏机制用于规范特征生成模型,在联合优化期间自适应地传递模型状态之间的知识,以进一步防止过度拟合。实验证实,我们的方法在不同设置下提供了令人信服的OOD泛化性能增益。
Jan, 2024
我们提出了一种名为NegLabel的新型事后OOD检测方法,该方法利用来自广泛语料库数据库的大量负标签,并设计了一种与负标签合作的OOD得分方案。通过理论分析,帮助理解负标签的机制。大量实验证明,我们的方法NegLabel在各种OOD检测基准数据集上实现了最先进的性能,并且在多种视觉语言模型中具有良好的泛化能力。此外,我们的方法NegLabel对于各种领域变化表现出了显著的鲁棒性。
Mar, 2024
通过负面提示学习,在ID和OOD图像之间界定边界,以解决存在于开放词汇学习场景中的高误报率,超越了现有的基于提示学习的OOD检测方法,并在闭合和开放词汇分类场景中保持了一致优势。
Apr, 2024
我们研究了提示式学习模型在近似OOD检测中的能力,并观察到常用的OOD得分在此任务中表现有限。为了提升性能,我们提出了一种快速简单的后续方法,与现有的基于逻辑的得分相结合,将近似OOD检测的AUROC提高了最佳11.67%,并具有最小的计算成本。我们的方法可以轻松应用于任何提示式学习模型,无需改变架构或重新训练模型。通过对13个数据集和8个模型进行全面的实证评估,证明了我们的方法的有效性和适应性。
May, 2024
利用大规模和多样化的离群类别标签作为提示并通过离群样本生成模块增强零样本离群检测,实验结果表明 Outlier Label Exposure (OLE)对于大规模离群检测和难样本离群检测具有显著提升和创新性的性能。
Jun, 2024
本文研究了分布外样本检测(OOD)对机器学习系统安全的重要性,并提出一个泛化的OOD检测框架,以统一与OOD相关的多个问题。文章总结了在视觉语言模型(VLM)时代这些问题的演变,并探讨了未来的挑战和方向,为研究人员提供了新的视角和方法论。
Jul, 2024