ICLRFeb, 2022

VOS：通过虚拟异常点合成学习未知领域

PDF
TL;DRVOS 是一种新的框架，用于通过自适应合成虚拟离群值，在训练期间能够有意义地规范模型的决策边界，包括在特征空间中从类条件分布进行虚拟离群值取样，同时引入一种新的未知感知训练目标，与 ID 数据和合成离群数据之间的不确定性空间进行反向塑形，VOS 与物体检测和图像分类模型均能实现竞争性表现，在物体检测器上将 FPR95 降低了最高达 9.36％。
out-of-distribution detectionneural networksmodel regularizationvosunknown-aware training
发现论文，激发创造
  • 非参数异常合成

    本文提出了一种基于非参数方法的异常检测框架，可在不依赖于高斯分布假设的情况下生成人工训练数据，从而有效地学习鲁棒的模型决策边界，并在超出分布的数据检测上表现出优越的性能。

    Mar, 2023

  • LS-VOS: 使用潜空间虚拟异常合成识别三维物体检测中的异常值

    提出了 LS-VOS 框架，通过在训练期间引入异常知识，从而在 3D 物体检测中识别异常值，并在保持高 3D 物体检测性能的同时，改善了异常检测能力。

    Oct, 2023

  • OOD 感知的有监督对比学习

    使用 SupCon 训练从训练分布中识别外分布样本是机器学习模型安全部署中的重要问题。我们在这项工作中运用强大的 SupCon 学习表征，并提出了一种全面的方法来学习对 OOD 数据稳健的分类器。我们通过增加两个对比项来扩展 SupCon 损失，第一个项将辅助 OOD 表征与 ID 表征分开，而不对辅助数据的相似性产生任何约束。第二个项将 OOD 特征远离现有类原型，并将 ID 表征推近其对应的类原型。当辅助 OOD 数据不可用时，我们提出了特征混合技术来高效生成伪 OOD 特征。我们的解决方案简单高效，作为闭集监督对比表征学习的自然扩展。我们在常见基准测试中与不同的 OOD 检测方法进行了比较，并展示了最先进的结果。

    Oct, 2023

  • 梯度正则化的离群样本检测

    利用损失函数的梯度信息进行训练，实现神经网络在离分布数据上的检测，并通过能量采样方法提高模型性能。

    Apr, 2024

  • 重温基于 LiDAR 的 3D 物体检测中的超出分布检测

    利用合成的离群对象数据生成特征图以对未知物体进行检测并使用多层感知器分类，从而有效处理自动驾驶中的风险和可靠性问题。

    Apr, 2024

  • 利用自我监督采样进行端到端的越界检测

    本论文提出了一种新的概率框架模型和一种无需 OOD 数据的自监督抽样模型 (SSOD)，以解决现有研究中的问题，并展示了这些模型在大规模基准测试上具有领先的性能.

    Jul, 2023

  • 通过隐式异常转换进行的越界检测

    通过最大最小学习策略，利用模型扰动产生一类最差情况的数据来合成新的数据，以优化 outlier exposure 在 out-of-distribution 检测中的性能。

    Mar, 2023

  • 语义分割的判别式非分布检测

    本文提出了一种针对视觉分类中的开放世界场景中的数据分割问题的新方法，该方法能够训练出一个专门针对原始训练集以及更大的 “背景” 数据集的 ODD（出现在分布之外的异常值）检测模型，并在测试复杂自然图像的数据集中得到了优异的表现。

    Aug, 2018

  • 鲁棒语言模型的伪 OOD 训练

    本文提出 POORE - POsthoc pseudo-Ood REgularization 框架，通过在内部数据中生成伪 OOD 数据进行 fine-tune，通过引入新的正则化损失来分离 IND 和 OOD 数据的嵌入，提高了 OOD 预测任务的准确度，相较现有方法在三个实际对话系统上获得了最新的技术进展。

    Oct, 2022

  • DOS: 多样化异常样本采样用于外分布检测

    该论文指出样本多样性对于 ODD 检测的关键作用，在此基础上提出一种名为 DOS（多元异常值采样）的采样策略，可以有效地降低平均 FPR95。

    Jun, 2023