最近在OOD检测方面的进展:问题与方法
本文首先提出一个通用的OOD检测框架,其中包括了另外四个相关问题的特例或子任务,然后重点回顾了这五个领域的最新技术发展,特别是OOD检测方法,并总结了开放的挑战和潜在的研究方向。
Oct, 2021
本文综述了目前在机器学习中所涉及的异常检测、开放集识别、新颖性检测和习一类学习等不同领域中,如何识别和检测来自于训练集分布之外的样本,从而提出了跨领域的研究方向,这对提高模型的鲁棒性具有重要意义。
Oct, 2021
本文旨在识别常见的目标,以及识别不同OOD检测方法的隐含评分函数。我们展示了许多方法在共享学习方式下表现相似,二进制区分器达到与异常暴露相似的OOD检测性能,还展示了置信度损失具有在理论上最优得分函数不同但与训练和测试out-distribution相同时的函数相似的隐含评分函数,从实践中发现,这些方法训练方式一致时都表现相似。
Jun, 2022
本文提出了一个更广泛的框架来研究模型针对特定因素(如未知类别、协变量变化等)检测out-of-distribution(OOD)问题,该框架能够检测出一个训练好的机器学习模型无法正确预测的测试样例,而是否拒绝该测试样例取决于模型本身,该文提供了大量分析和见解,用以改进和理解在不受控制的环境中的OOD检测。
Apr, 2023
提出一种新的测试集NINCO以及相应的合成OOD单元测试来更准确地评估模型在Out-of-distribution检测中的表现,并针对预训练对OOD检测性能的影响进行了详细的评估。
Jun, 2023
我们提出了一种新颖且更现实的设置,称为连续自适应离群分布检测(CAOOD),旨在开发一种能够适应动态和迅速适应新到达分布的离群分布检测模型,并且在部署期间具有不足的ID样本。通过设计学习和适应图表,我们开发了元离群学习(MOL),在训练过程中学习到了一个良好初始化的离群分布检测模型。在测试过程中,MOL通过少量适应快速调整到新的分布,从而确保在不断变化的分布上具有离群分布检测性能。对几个离群分布基准测试的广泛实验证明了我们方法在保持ID分类准确性和离群分布检测性能方面的有效性。
Sep, 2023
我们研究了在监督学习和无监督学习环境中在测试时高效检测超出分布(OOD)样本的问题。通过统计检测重新定义OOD问题,研究了在统计术语中使OOD问题可识别的条件,并在Wasserstein距离的基础上研究了OOD测试的收敛性保证,并提供了简单的实证评估。
May, 2024
本研究针对机器学习模型在测试时分布转变问题进行了深入分析,探讨了离散分布(OOD)检测与开放集识别(OSR)两个主要子领域。通过系统的实验评估,发现这两者之间存在强关联,并提出一个新的基准设定,为研究者提供了针对OOD与OSR的有效实践指导。
Aug, 2024