Sep, 2021

关于伪相关对于未知类别检测的影响

PDF
TL;DR研究表明，在训练集中，假设特征和标签之间的虚假相关性增强，检测模型对于发现野外数据的能力会大幅降低。通过引入 “不变” 的特征来新定义和建模数据转移，提出了新的数据转移形式，并在此基础上深入探究了虚假相关在识别过程中的影响，同时提出了一种降低虚假相关影响的方法。
neural networksout-of-distribution detectiondata shiftsspurious correlationood samples
发现论文，激发创造
  • 强健性到偶然相关性的提升改进了语义外分布检测

    该论文提出了一种利用 Nuisance-Randomized Distillation 算法的 OOF 检测方法，通过替代使用经验风险最小化和交叉熵损失训练的分类器，实现独立于噪声值的特征表示，并成功解决了共享噪声错误检测的问题。

    Feb, 2023

  • 在自然环境中训练 OOD 检测器

    本文提出了一种基于野外混合数据的新颖框架，旨在改进在野外部署的机器学习模型的 OOD 检测能力，通过最大化 OOD 检测率并设定 ID 数据的分类误差和 ID 示例的 OOD 错误率的约束条件的学习目标，有效地解决了这个问题，并在常见的 OOD 检测任务中获得了优异的性能。

    Feb, 2022

  • 针对超出分布检测的可证明保障

    本文研究了如何检测机器学习模型移植到实际应用中可能出现的数据分布偏移，提出了一个以神经网络为基础的 OOD 检测方法，并结合理论与实验表现对其进行了分析与评估。

    Dec, 2021

  • 统一的超领域检测：基于模型视角

    本文提出了一个更广泛的框架来研究模型针对特定因素（如未知类别、协变量变化等) 检测 out-of-distribution（OOD）问题，该框架能够检测出一个训练好的机器学习模型无法正确预测的测试样例，而是否拒绝该测试样例取决于模型本身，该文提供了大量分析和见解，用以改进和理解在不受控制的环境中的 OOD 检测。

    Apr, 2023

  • 利用高相关特征进行预测

    本文旨在通过考虑在测试期间输入特征的分布发生偏移并表现出低相关性来评估现有的鲁棒特征学习方法和正则化方法的效果，比较它们与设计用于捕捉训练集中高相关特征的基线方法的差异，并在设计的 C-MNIST 数据集上进行了验证。

    Oct, 2019

  • 基于 OOD 训练数据的许多方法估计相同核心量的组合来分解 OD 检测

    本文旨在识别常见的目标，以及识别不同 OOD 检测方法的隐含评分函数。我们展示了许多方法在共享学习方式下表现相似，二进制区分器达到与异常暴露相似的 OOD 检测性能，还展示了置信度损失具有在理论上最优得分函数不同但与训练和测试 out-distribution 相同时的函数相似的隐含评分函数，从实践中发现，这些方法训练方式一致时都表现相似。

    Jun, 2022

  • 神经网络的鲁棒性外部分布检测

    本文主要研究深度学习模型在检测 in-distribution 和 OOD inputs 时受到极小对抗扰动的影响，并提出了一种名为 ALOE 的有效算法，该算法通过将模型暴露于经过对抗训练的 inlier 和 outlier examples 中的方式，可以灵活地与现有方法相结合，提高现有的 Out-of-distribution detection 方法的鲁棒性，CIFAR-10 和 CIFAR-100 数据集的 AUROC 分别提高了 58.4% 和 46.59%。

    Mar, 2020

  • ImageNet-OOD: 解析现代异常检测算法

    通过广泛的实验，我们展示了当前的 ODD 检测器对于协变量转移比语义转移更为敏感，并且最新的 ODD 检测算法对于语义转移的检测效果微乎其微。我们的数据集和分析为指导未来的 ODD 检测器设计提供了重要见解。

    Oct, 2023

  • 一种新颖的可解释的脉冲神经网络溯源检测方法

    本文提出了一种新型的 OoD 检测器，采用脉冲数模式来表征神经网络中隐藏层的内部激活，以检测输入实例是否属于训练数据的分布，其性能与相关方案相比具有竞争力，并且能够生成符合预期的相关性说明图。

    Sep, 2022

  • 通过有条件的不变正则化器打破相关性偏移

    本文提出了一种基于条件独立的度量标准 Conditional Spurious Variation (CSV)，用于控制基于测试数据及其与类标签的相关性来测量模型的一般性并结合该度量标准来通过规范化训练过程来提高模型的一般化性能，增强模型对越界数据的鲁棒性。

    Jul, 2022