Nov, 2023

学习增加分布以进行外部分布检测

PDF
TL;DR开放世界分类系统中，鉴别与内部分布不同的外部数据是一个重要问题，利用辅助外部数据进行模型训练可以改善开放世界检测性能。本文从学习理论的角度，通过构建一个包含辅助外部数据 Wasserstein 球中的全部分布的外部分布集，提出了分布增强的外部数据学习 (DAL) 方法，通过对球中的最差外部数据进行训练，缩小外部数据分布差异，从而提高开放世界检测性能。结果表明，DAL 在代表性的外部数据检测设置中具有优越性。
open-world classification systemsood detectionauxiliary ood datadistribution discrepancydal
发现论文，激发创造
  • 不可靠的外部来源下的超出分布检测学习

    基于数据生成学习的辅助任务的 OOD 学习（ATOL）是一种强大的方法，可以消除误生成的 OOD 数据，从而使 ID 和 OOD 数据的区分实现真正的 OOD 检测。

    Nov, 2023

  • 在自然环境中训练 OOD 检测器

    本文提出了一种基于野外混合数据的新颖框架，旨在改进在野外部署的机器学习模型的 OOD 检测能力，通过最大化 OOD 检测率并设定 ID 数据的分类误差和 ID 示例的 OOD 错误率的约束条件的学习目标，有效地解决了这个问题，并在常见的 OOD 检测任务中获得了优异的性能。

    Feb, 2022

  • 在开放环境中检测和学习非分布数据：算法和理论

    这篇论文在机器学习领域做出了重要贡献，特别是在面对前所未见的数据和情境的开放世界情况下。通过研究开放世界机器学习中的 Out-of-distribution (OOD) Detection 和 Open-world Representation Learning (ORL) 两个关键步骤，该论文提出了算法解决方案和理论基础，为构建性能卓越且在不断变化的复杂实际世界中可靠的机器学习模型铺平了道路。

    Oct, 2023

  • 持续无监督的外部分布检测

    不断进行未标注 OOD 检测的新设置，使用融合 Mahalanobis 距离和最近邻方法的 U-OOD 评分函数，并设计了一种置信度缩放的少样本 OOD 检测器，大幅改善相关领域的强基准模型。

    Jun, 2024

  • 关于外部分布检测的可学习性

    基于 PAC 学习理论，本研究探讨了超出分布检测的可学习性，给出了不同场景下学习 OOD 检测的必要和充分条件，并从理论上支持了一些 OOD 检测方法。

    Apr, 2024

  • 开放世界中的半监督目标检测

    在这篇论文中，我们提出了一个名为 Open World Semi-supervised Detection（OWSSD）的框架，该框架通过一种轻量级的自编码器网络对进行过 ID 数据训练从而有效地检测 OOD 数据，并从中学习，我们通过大量评估表明我们的方法在与最先进的 OOD 检测算法的竞争中表现出色，并显著改善了开放世界场景下的半监督学习性能。

    Jul, 2023

  • OOD 感知的有监督对比学习

    使用 SupCon 训练从训练分布中识别外分布样本是机器学习模型安全部署中的重要问题。我们在这项工作中运用强大的 SupCon 学习表征，并提出了一种全面的方法来学习对 OOD 数据稳健的分类器。我们通过增加两个对比项来扩展 SupCon 损失，第一个项将辅助 OOD 表征与 ID 表征分开，而不对辅助数据的相似性产生任何约束。第二个项将 OOD 特征远离现有类原型，并将 ID 表征推近其对应的类原型。当辅助 OOD 数据不可用时，我们提出了特征混合技术来高效生成伪 OOD 特征。我们的解决方案简单高效，作为闭集监督对比表征学习的自然扩展。我们在常见基准测试中与不同的 OOD 检测方法进行了比较，并展示了最先进的结果。

    Oct, 2023

  • 利用混合未标记数据检测已知和未知失配类别样本

    本研究主要解决有限标记数据和丰富无标记数据可用的更加现实的情况下的 OOD 检测问题。我们提出了一种自适应的基于样本熵和适当温度选择潜在 ID 和 OOD 样本的方法 (AIOL)，并利用数据扩充技术进一步提高了其性能。我们在多种基准数据集上进行的实验表明，我们的方法优于其他方法。

    Oct, 2022

  • 提高样本外检测的三个因素

    通过引入自我知识蒸馏损失、采样半难例离群数据和使用监督对比学习，我们的方法在分类准确性和离群检测性能之间取得平衡，同时提高了两个性能指标。

    Aug, 2023

  • 自然语言处理中的超领域检测综述

    本文回顾了最近关于 out-of-distribution 检测的进展，重点关注了自然语言处理方面的方法。通过分类和介绍数据集、应用和评估指标，总结了现有的研究，同时提出了未来的研究方向。

    May, 2023