AAAIDec, 2023

走向可靠的人工智能模型部署：多输入混合用于超出分布检测

PDF
TL;DR我们提出了一种新颖且简单的方法，称为 Multiple Input Mixup（MIM），它可以通过单次 fine-tuning 改善 OOD 检测性能，而无需从头训练模型。我们的方法仅利用 ID 样本生成合成的 OOD 数据，且在 CIFAR10 和 CIFAR100 基准测试中展示出与 SOTA 方法相比更出色的性能，且不需要对特征向量进行额外计算。
deep-learningmodel deploymentout-of-distribution detectionmultiple input mixupood data synthesis
发现论文，激发创造
  • 超混合：在少样本设置中进行外域检测和分类

    在有限的内分布样本情况下，本文提出了一种名为 HyperMix 的超网络框架，使用对生成的分类器参数进行 Mixup 处理，并采用一种自然的 Episode 外部曝光技术来进行离群样本检测，实验证明在少样本情况下，该方法明显优于其他离群检测方法。

    Dec, 2023

  • MultiOOD：多模态下的扩展外分布检测

    通过引入多模态 OOD（Out-of-Distribution）检测基准 MultiOOD，本研究评估了现有的单模态 OOD 检测算法，并提出了 Agree-to-Disagree（A2D）算法和 NP-Mix 异常值合成方法，通过利用多模态信息和探索更广泛的特征空间，显著提升了现有 OOD 检测算法的性能。

    May, 2024

  • 多实例学习中的未知样本检测

    机器学习中的弱监督学习和多实例学习框架下的离群分布检测的重要性和挑战，以及当前已有方法的不足和需求。

    Sep, 2023

  • MIM-OOD: 针对医学图像中的离群检测的生成式遮罩图像建模

    使用两个与任务相关的 Transformer，通过应用 MIM 模型来替代 AR 模型，实现对脑部 MRI 异常的快速检测和修复，明显优于 AR 模型，并获得近 25 倍的加速。

    Jul, 2023

  • 神经网络的鲁棒性外部分布检测

    本文主要研究深度学习模型在检测 in-distribution 和 OOD inputs 时受到极小对抗扰动的影响，并提出了一种名为 ALOE 的有效算法，该算法通过将模型暴露于经过对抗训练的 inlier 和 outlier examples 中的方式，可以灵活地与现有方法相结合，提高现有的 Out-of-distribution detection 方法的鲁棒性，CIFAR-10 和 CIFAR-100 数据集的 AUROC 分别提高了 58.4% 和 46.59%。

    Mar, 2020

  • 多测试的层级特征融合增强外部分布检测

    提出一种名为多测试层级异分布检测（MLOD）的框架，通过严格的多测试程序，在不需要修改或微调预训练分类器的结构的情况下，能够在不同特征层级上识别测试样本中的分布偏移，并通过有效利用不同深度的特征提取器，有效提高异分布检测性能。

    Mar, 2024

  • 最大分类器差异的无监督超出分布检测

    该研究提出了一种基于两头卷积神经网络和无监督训练的深度学习模型外部数据检测方法，可以对深度学习模型在商业应用场景中面临的性能退化问题进行有效解决。

    Aug, 2019

  • 基于置信度的越界检测：一项比较研究与分析

    通过对比研究和深度分析来评估各种最先进的方法对基于置信度的 OOD 检测的能力，并采用计算机视觉基准来复现和比较多种 OOD 检测方法。评估了它们在使用胸部 X 线进行疾病分类这一具有挑战性任务中的能力，结果表明在计算机视觉任务中高性能不直接转化为医学成像任务中的准确性，因此为开发下一代 OOD 检测方法提供了有用的见解。

    Jul, 2021

  • 利用扩散先验进行外部分布检测

    利用扩散模型的生成能力和 CLIP 的强大特征提取能力，我们提出了一种新颖的 OOD 检测方法，通过使用这些特征作为扩散模型的条件输入，我们可以在使用 CLIP 进行编码后重建图像。原始图像与重建图像之间的差异被用作 OOD 识别的信号，我们的方法不需要类别特定的标记，提高了实用性和可扩展性，且经过多个基准数据集的广泛实验证明了我们方法的鲁棒性和有效性。

    Jun, 2024

  • 使用早期层输出在深度神经网络中检测超范围输入

    本研究提出了一种新的的基于输出层的单类分类器方法用于检测深层分类器中的异常值输入，该方法无需访问 OOD 样本且在低维和高维数据集上表现出优异的性能指标。

    Oct, 2019