Sep, 2023

类别相关性学习用于外部分布检测

PDF
TL;DR本文介绍了一种针对 out-of-distribution（OOD）检测的创新类相关性学习方法，该方法在 OOD 管道中策略性地利用了类间关系，显著增强了 OOD 检测能力。在包括通用图像分类数据集（近 OOD 和远 OOD 数据集）的多样数据集上进行的大量实验表明，我们的方法在 OOD 检测方面优于现有技术。
image classificationout-of-distribution detectionclass relevance learninginterclass relationshipsood detection
发现论文，激发创造
  • 使用大型语言模型生成的同类对等生成器进行外部分布检测

    提出了一种名为 ODPC 的新方法，通过大型语言模型设计生成特定提示词来产生具有 ID 语义的 OOD 对等类，以便于检测，并采用基于 OOD 对等类的对比损失来学习紧凑的 ID 类别表示，并改善不同类别之间的界限清晰度。在五个基准数据集上进行的广泛实验表明，该方法可以得到最先进的结果。

    Mar, 2024

  • 基于置信度的越界检测：一项比较研究与分析

    通过对比研究和深度分析来评估各种最先进的方法对基于置信度的 OOD 检测的能力，并采用计算机视觉基准来复现和比较多种 OOD 检测方法。评估了它们在使用胸部 X 线进行疾病分类这一具有挑战性任务中的能力，结果表明在计算机视觉任务中高性能不直接转化为医学成像任务中的准确性，因此为开发下一代 OOD 检测方法提供了有用的见解。

    Jul, 2021

  • 全面的 OOD 检测改进

    机器学习中，识别推理数据是否超出模型的预期输入分布对于给出预测的上下文至关重要。我们的研究针对基于表示或基于逻辑方法的超出分布检测方法，并提出了用于特征嵌入降维的表示方法和解决了一个问题的基于逻辑方法。我们在 OpenOODv1.5 基准框架上验证了我们方法的有效性，结果显示性能显著提升，并达到了最新的技术水平。

    Jan, 2024

  • OOD 感知的有监督对比学习

    使用 SupCon 训练从训练分布中识别外分布样本是机器学习模型安全部署中的重要问题。我们在这项工作中运用强大的 SupCon 学习表征，并提出了一种全面的方法来学习对 OOD 数据稳健的分类器。我们通过增加两个对比项来扩展 SupCon 损失，第一个项将辅助 OOD 表征与 ID 表征分开，而不对辅助数据的相似性产生任何约束。第二个项将 OOD 特征远离现有类原型，并将 ID 表征推近其对应的类原型。当辅助 OOD 数据不可用时，我们提出了特征混合技术来高效生成伪 OOD 特征。我们的解决方案简单高效，作为闭集监督对比表征学习的自然扩展。我们在常见基准测试中与不同的 OOD 检测方法进行了比较，并展示了最先进的结果。

    Oct, 2023

  • 朝着外部分布检测的现实基准

    深度神经网络在各种技术和服务中得到越来越广泛的应用，但其容易受到来自训练集不同分布的样本的干扰，而常见的解决方法是使深度神经网络具备检测这种样本的能力。本文提出了一种基于 ImageNet 和 Places365 的全面评估标准，根据与训练集的语义相似性，将个别类别分为内部分布和外部分布，通过不同的技术确定哪些类别应被视为内部分布，得到具备不同性质的评估标准。不同的 ODD 检测技术在不同的评估标准下的实验结果表明，它们的有效性取决于所选择的评估标准，而基于置信度的技术在接近 ODD 样本上可能优于基于分类器的技术。

    Apr, 2024

  • 房间里的喧嚣大象：你的离群检测器对标签噪声是否鲁棒？

    通过对 20 种最先进的 OOD 检测方法进行大量实验，我们发现类标签噪声对 OOD 检测有重要影响，现有方法中错误分类的 ID 样本与 OOD 样本之间的差异较小是一个被忽视的限制。

    Apr, 2024

  • 基于关系推理的 OOD 检测不需要大类别间的明显分离

    本研究提出了一种新的无需经过微调就可以基于嵌入空间进行 Out-Of-Distribution 检测的方法，其中使用了 relation reasoning pre-training，并展示了一种控制交叉类别边缘的损失函数优于基准方法的实验结果。

    Jul, 2023

  • 基于框架的分类外分布检测基准及其在 ImageNet 上的应用

    本文提出了一种用于评估图像分类器检测类别 - 分布外实例能力的新框架，并将该技术应用于 ImageNet 数据集，分析结果揭示了多个新观察，包括知识蒸馏能够一致提高分布外实例检测性能，ViTs 的子集比任何其他模型都能更好地检测出分布外实例等。

    Feb, 2023

  • 语义分割的判别式非分布检测

    本文提出了一种针对视觉分类中的开放世界场景中的数据分割问题的新方法，该方法能够训练出一个专门针对原始训练集以及更大的 “背景” 数据集的 ODD（出现在分布之外的异常值）检测模型，并在测试复杂自然图像的数据集中得到了优异的表现。

    Aug, 2018

  • 改进的外部分布检测对比训练

    本文介绍了一种利用对比性训练来提高机器学习系统检测异常数据输入的方法，通过引入和使用混淆对数概率得分来量化数据集的内离散度，作者证明了这种方法在 “近 OOD” 类的性能较先前方法有所提高。

    Jul, 2020