Jan, 2024

MOODv2：面罩图像建模用于超出分布检测

PDF
TL;DR主要研究了有效的离域检测的关键是获取一个稳健的域内表示，与离域样本有所区别；通过对不同的预训练任务和离域得分函数进行全面分析，发现通过重构预训练的特征表示显著增强了性能，并缩小了各个得分函数之间的性能差距。
out-of-distribution detectionin-distribution representationpretraining tasksood score functionsreconstruction-based pretext tasks
发现论文，激发创造
  • 重新思考外域（OOD）检测：掩模图像建模就是您所需的一切

    本文提出利用基于重建的先验任务构建的模型，用于检测 OOD，并通过 Masked Image Modeling 预训练，取得了比先前 SOTA 更好的表现，包括单类 OOD 检测高出 5.7％，多类 OOD 检测高出 3.0％，近分布 OOD 检测高出 2.1％。

    Feb, 2023

  • MIM-OOD: 针对医学图像中的离群检测的生成式遮罩图像建模

    使用两个与任务相关的 Transformer，通过应用 MIM 模型来替代 AR 模型，实现对脑部 MRI 异常的快速检测和修复，明显优于 AR 模型，并获得近 25 倍的加速。

    Jul, 2023

  • 基于掩蔽下语义不匹配的 ODS 检测

    本文提出了一种名为 MoodCat 的新型出界检测框架，该框架适用于图像分类器，并使用了一种生成模型来遮盖随机部分的输入图像，并将其合成为一张依据分类结果的新图像，然后计算原始图像和合成图像之间的语义差异以进行出界检测。实验结果表明，MoodCat 比其他现有的 OOD 检测方法具有更好的性能。

    Jul, 2022

  • 释放掩码：探索内在的外部分布检测能力

    本文提出了一种新的方法 ——Unleashing Mask，该方法使用掩模找出受记忆的非典型样本，并通过微调或修剪模型来忘记它们，从而恢复所训练模型的 OOD 鉴别能力。

    Jun, 2023

  • MOOD: 多层次的分布外检测

    本论文提出了一种新的多层级的离群检测框架 MOOD，通过中间分类器的输出进行动态且高效的离群推理，调整能量分数可以有效地检测简单的离群值，从而实现高达 71.05％的计算减少并保持竞争力的离群检测性能。

    Apr, 2021

  • 从全球到本地：多尺度的离群检测

    本研究提出了第一个多尺度的 “模式”（MODE）框架，通过同时利用图像的全局视觉信息和局部区域细节来实现最大效益的外域检测。通过引入注意力机制和交叉尺度决策函数，MODE 在几个基准测试中表现出卓越的性能，平均可以在误报率上提高 19.24%、在 AUROC 上提高 2.77%。

    Aug, 2023

  • 预训练变换器的对比分布外检测

    本文提出了一种使用只有训练集数据的预训练 Transformer 进行无监督的离群检测方法，该方法使用对比度损失调整 Transformer。最终使用马哈拉诺比斯距离来检测异常数据，实验表明，本文方法的性能超过了基准线，并且更紧凑的表示方法是改进的基础。

    Apr, 2021

  • VI-OOD：文本外分布检测的统一表示学习框架

    使用 Transformers，本文提出了一种针对文本型 OOD 检测的新颖变分推断框架（VI-OOD），通过有效利用预训练 Transformers 的表示，最大化联合分布 $p (x, y)$ 的似然度，从而解决了现有 OOD 检测方法中出现的问题。通过对多个文本分类任务的广泛实验，VI-OOD 展示了其高效性和广泛适用性。

    Apr, 2024

  • 通用多模态 OOD 检测框架

    这篇论文提出了一种名为 WOOD 的通用弱监督 OOD 检测框架，同时检测多种不同的 OOD 场景，并结合二元分类器和对比学习组件以取得双方的优势，实验证明该模型在多模态 OOD 检测方面超过了现有方法。

    Jul, 2023

  • MultiOOD：多模态下的扩展外分布检测

    通过引入多模态 OOD（Out-of-Distribution）检测基准 MultiOOD，本研究评估了现有的单模态 OOD 检测算法，并提出了 Agree-to-Disagree（A2D）算法和 NP-Mix 异常值合成方法，通过利用多模态信息和探索更广泛的特征空间，显著提升了现有 OOD 检测算法的性能。

    May, 2024