开放世界持续学习：统一新颖性检测和持续学习

Apr, 2023

开放世界持续学习：统一新颖性检测和持续学习

Open-World Continual Learning: Unifying Novelty Detection and Continual Learning

Gyuhak Kim, Changnan Xiao, Tatsuya Konishi, Zixuan Ke, Bing Liu

TL;DR论文理论证明了，对于 class incremental learning 来说，out-of-distribution detection 实际上是必需的。因此，一个好的 class incremental learning 算法必须要同时具备良好的 within-task prediction 和 out-of-distribution detection 能力，这将统一 novelty 或 out-of-distribution detection 以及 continual learning.

Abstract

As ai agents are increasingly used in the real open world with unknowns or novelties, they need the ability to (1) recognize objects that (i) they have learned and (ii) detect items that they have not seen or learned before, and (2) learn the new items incrementally to become more and

ai agents novelty detection out-of-distribution class incremental learning continual learning

发现论文，激发创造

解决不间断学习问题的理论研究

研究表明，类增量学习 (CIL) 的问题可以分解为两个子问题：任务内预测 (WP) 和任务 ID 预测 (TP)，其中 TP 与分布外检测 (OOD) 相关联。该研究的关键结论是，无论是否通过 CIL 算法显式或隐式定义 WP 和 TP 或 OOD 检测，优秀的 WP 和 TP 或 OOD 检测都对于良好的 CIL 表现是必要且充分的，其中 TIL 就是 WP。基于理论结果，还设计了新的 CIL 方法，其在 CIL 和 TIL 两个设置中性能均优于强基线。

Nov, 2022

持续学习的可学习性和算法

本文研究了挑战性的连续学习（CL）设置下的类增量学习（CIL），证明了 CIL 是可学的，并基于理论提出了一种新的 CIL 算法，并通过实验结果证明了其有效性。

Jun, 2023

持续证据深度学习用于外部分布检测

该研究论文提出了一种将证据深度学习方法与持续学习框架相结合的方法，能够同时进行增量对象分类和越界检测，在 CIFAR-100 数据集上的实验结果显示，该方法在对象分类和越界检测方面表现出色。

Sep, 2023

在开放环境中检测和学习非分布数据：算法和理论

这篇论文在机器学习领域做出了重要贡献，特别是在面对前所未见的数据和情境的开放世界情况下。通过研究开放世界机器学习中的 Out-of-distribution (OOD) Detection 和 Open-world Representation Learning (ORL) 两个关键步骤，该论文提出了算法解决方案和理论基础，为构建性能卓越且在不断变化的复杂实际世界中可靠的机器学习模型铺平了道路。

Oct, 2023

阈值式新颖检测的持续改进

在动态、开放的情境中评估时，神经网络在检测未知类别时遇到困难。本文提出了一种新方法，通过线性搜索和基于样本交叉验证选择门槛值，自动适应性地检测新颖性，从而提高 MNIST、Fashion MNIST 和 CIFAR-10 的总准确率。

Sep, 2023

元外推学习用于持续自适应异常检测

我们提出了一种新颖且更现实的设置，称为连续自适应离群分布检测（CAOOD），旨在开发一种能够适应动态和迅速适应新到达分布的离群分布检测模型，并且在部署期间具有不足的 ID 样本。通过设计学习和适应图表，我们开发了元离群学习（MOL），在训练过程中学习到了一个良好初始化的离群分布检测模型。在测试过程中，MOL 通过少量适应快速调整到新的分布，从而确保在不断变化的分布上具有离群分布检测性能。对几个离群分布基准测试的广泛实验证明了我们方法在保持 ID 分类准确性和离群分布检测性能方面的有效性。

Sep, 2023

YOLOOC：基于 YOLO 的开放类增量目标检测与新类发现

通过构建新的基准测试，我们提出了一种基于 YOLO 架构的新型 OWOD 检测器 YOLOOC，在遇到新的类别时能够自动学习并避免忘记先前已知的类别，我们引入了标签平滑技术来防止检测器过度自信地将新类别映射为已知类别，并在我们的测试基准中的广泛实验表明了我们的方法在发现新类别上的有效性。

Mar, 2024

面向开放世界的目标检测

本文介绍了一个新的计算机视觉问题：“开放领域物体检测”，其中模型的任务是在未经明确监督的情况下识别未引入的对象，并在逐步接收相应标签时增量学习这些已识别的未知类别。阐述了该问题，并提供了一种名为 ORE 的解决方案，基于对比聚类和基于能源的未知物体识别。我们的实验评估和消融研究分析了 ORE 在实现开放世界目标方面的功效。同时，我们发现确定和表征未知实例有助于减少增量对象检测设置中的混淆，我们在没有额外的方法论努力下实现了最先进的性能。希望我们的工作能吸引更多关于此全新但至关重要的研究方向的研究。

Mar, 2021

基于似然比的任务预测的类增量学习

在连续学习中，对于每个测试样本预测任务标识符是一个具有挑战性的问题。本文提出了一种新的方法 TPLR（基于似然比的任务标识符预测），该方法利用了连续学习中的额外信息，显著优于强对比模型。

Sep, 2023

通过判别类原型学习的开放世界物体检测

基于原型学习的开放世界目标检测方法 OCPL，包括 PEA、ESC、CSC 三个模块，用于学习已知类别的鉴别性嵌入以区分已知和未知类别，相关实验结果验证了该方法的有效性。

Feb, 2023