May, 2024

Dual-Adapter: 无需训练的双自适应技术用于小样本情况下的区分外分布检测

PDF
TL;DR我们提出了一种基于先验的无需训练的双适配器（Dual-Adapter）方法，在文本和视觉角度上检测来自不同类别的未见样本，创造性地利用先前被忽视或干扰的特征，在训练数据集中突显与区分 ID 和 OOD 样本，通过广泛的实验结果在四个基准数据集上证明了 Dual-Adapter 的优越性。
few-shot out-of-distribution detectionood samplesdual-adaptertextual and visual perspectivesclip
发现论文，激发创造
  • 迈向少样本外分布检测

    多样的 fine-tuning 方法中，我们的实验结果表明，DomainSpecific and General Knowledge Fusion (DSGF) 的整合显著提高了各种方法和 fine-tuning 方法的少样本 OOD 检测能力。

    Nov, 2023

  • 少样本外分布检测的类 ID 式提示学习

    利用 CLIP 在与 ID 样本相邻的空间中发现 ID 样本的异常值从而帮助检测最具挑战性的 OOD 样本，进而利用这些异常值进一步提升 OOD 检测中 CLIP 的效能，在各种真实世界图像数据集上表现出卓越的少样本学习性能（例如，在 ImageNet-1k 数据集上的 4 样本 OOD 检测中，与现有最先进方法相比，我们的方法将平均 FPR95 降低了 12.16％，平均 AUROC 提高了 2.76％）。

    Nov, 2023

  • 通用多模态 OOD 检测框架

    这篇论文提出了一种名为 WOOD 的通用弱监督 OOD 检测框架，同时检测多种不同的 OOD 场景，并结合二元分类器和对比学习组件以取得双方的优势，实验证明该模型在多模态 OOD 检测方面超过了现有方法。

    Jul, 2023

  • 无模型的测试时间适应用于外域检测

    利用在线测试样本进行模型自适应，从而降低假阳性率，进而提高异常检测性能。

    Nov, 2023

  • 提升预测学习中的近似 OOD 检测：最大利益，最小成本

    我们研究了提示式学习模型在近似 OOD 检测中的能力，并观察到常用的 OOD 得分在此任务中表现有限。为了提升性能，我们提出了一种快速简单的后续方法，与现有的基于逻辑的得分相结合，将近似 OOD 检测的 AUROC 提高了最佳 11.67％，并具有最小的计算成本。我们的方法可以轻松应用于任何提示式学习模型，无需改变架构或重新训练模型。通过对 13 个数据集和 8 个模型进行全面的实证评估，证明了我们的方法的有效性和适应性。

    May, 2024

  • LoCoOp: 基于 Prompt 学习的少样本场外检测

    我们介绍了一种名为 LoCoOp 的新方法，它针对 few-shot OOD 检测进行本地正则化的上下文优化，利用 CLIP 本地特征的部分作为 OOD 特征，并展示了它在大规模 ImageNet OOD 检测基准测试中的优越性。

    Jun, 2023

  • 弱分布检测器提高了视觉语言提示调整的泛化能力

    我们提出了一种通用方法，用于在针对下游少样本任务进行精调时提高预训练视觉 - 语言模型 (VLMs) 的泛化能力。该方法利用了超出分布（OOD）检测来预测样本是否属于基本分布或新颖分布，然后使用由专门的竞争性评分函数生成的分数来融合零样本和少样本分类器。融合的分类器是动态的，如果样本更可能来自预先训练的分布，则会偏向于零样本分类器，从而提高基本到新颖的泛化能力。我们的方法仅在测试阶段执行，适用于提升现有方法而无需耗时的重新训练。大量实验证明，即使是弱分布检测器也可以改进 VLMs 的泛化能力。具体来说，在基本到新颖的设置中，在 11 个识别数据集上，借助 OOD 检测器，CoOp 和 ProGrad 的调和平均数分别提高了 2.6 和 1.5 个百分点。

    Mar, 2024

  • 超混合：在少样本设置中进行外域检测和分类

    在有限的内分布样本情况下，本文提出了一种名为 HyperMix 的超网络框架，使用对生成的分类器参数进行 Mixup 处理，并采用一种自然的 Episode 外部曝光技术来进行离群样本检测，实验证明在少样本情况下，该方法明显优于其他离群检测方法。

    Dec, 2023

  • 改进的外部分布检测对比训练

    本文介绍了一种利用对比性训练来提高机器学习系统检测异常数据输入的方法，通过引入和使用混淆对数概率得分来量化数据集的内离散度，作者证明了这种方法在 “近 OOD” 类的性能较先前方法有所提高。

    Jul, 2020

  • OOD 感知的有监督对比学习

    使用 SupCon 训练从训练分布中识别外分布样本是机器学习模型安全部署中的重要问题。我们在这项工作中运用强大的 SupCon 学习表征，并提出了一种全面的方法来学习对 OOD 数据稳健的分类器。我们通过增加两个对比项来扩展 SupCon 损失，第一个项将辅助 OOD 表征与 ID 表征分开，而不对辅助数据的相似性产生任何约束。第二个项将 OOD 特征远离现有类原型，并将 ID 表征推近其对应的类原型。当辅助 OOD 数据不可用时，我们提出了特征混合技术来高效生成伪 OOD 特征。我们的解决方案简单高效，作为闭集监督对比表征学习的自然扩展。我们在常见基准测试中与不同的 OOD 检测方法进行了比较，并展示了最先进的结果。

    Oct, 2023