Feb, 2021

开放世界半监督学习

PDF
TL;DR研究了在实际场景中半监督学习的一个基本局限性，即未标注的测试数据往往包含以前在标注训练数据中遇到的类。为了解决这个问题，提出了 ORCA，一种端到端的深度学习方法来处理未知类别在标注和未标注数据中的不一致性，并在图像分类数据集和单细胞注释数据集上实验，表明在 ImageNet 数据集上 ORCA 对于已知类别的改善为 25％，对于未知类别的改善为 96％。
semi-supervised learningopen-worldnovel classesorcadeep learning
发现论文，激发创造
  • 开放式半监督新类别发现

    该文提出了一种名为 OpenNCD 的新的半监督开放世界的未知类别发现方法，它是一种在多个原型上进行的渐进式双层对比学习方法，该方法由两个相互增强的部分组成。首先，介绍了一种双层对比学习方法，然后提出了一个可靠的原型相似度度量方法。对三个图像数据集进行了广泛的实验，结果表明该方法在开放世界的情况下特别有效，特别是在已知类别和标签稀缺的情况下。

    May, 2023

  • 自学开放世界类的鲁棒半监督学习

    提出了一种用于自学习开放世界类别（SSOC）的开放世界半监督学习方法，该方法可以明确地自学习多个未知类别，并通过与熵损失的结合设计了成对相似性损失来有效发现新类别，实验证明其在多个常见分类基准测试中优于现有最先进基线方法，特别是在 ImageNet-100 数据集上取得了显著的 22% 改进。

    Jan, 2024

  • 超越所知：针对开放世界图学习的新颖类发现

    本论文提出了一种名为 ORAL 的开放世界图神经网络方法，用于在图中进行节点分类，并解决了图上发现新类别的挑战，通过半监督的原型学习检测类别之间的相关性，利用原型关注网络消除类别间的相关性，从而得到不同类别的区分性表示，通过对齐和组合多个堆叠的原型关注网络的标签估计生成伪标签以充分利用多尺度图特征，广泛实验证明了所提方法的有效性。

    Mar, 2024

  • 朝着真实的半监督学习

    本文提出一种基于伪标签的半监督学习方法，能够处理 open-world SSL 问题，并通过样本不确定性和类别分布先验知识等手段，为已知和未知类别的未标记数据生成可靠的类别分布感知型伪标签。该方法在多种常用数据集上表现良好，特别是在 CIFAR-100，ImageNet-100 和 Tiny ImageNet 数据集上的表现显著优于现有的最先进技术。

    Jul, 2022

  • 开放世界学习及其在产品分类中的应用

    本文提出一种元学习方法来解决开放世界学习中增量学习和未知类别拒绝的问题。该方法只需要训练一个元分类器，而不需要重新训练元分类器或一个新的分类器来涵盖所有老和新类别。实验证明了该方法的有效性。

    Sep, 2018

  • 一个用于理解开放世界半监督学习的图论框架

    这篇论文以图论为基础，提出了开放世界半监督学习的理论框架，并在此基础上设计了一种叫做 “光谱开放世界表示学习” 的算法，用于从已标记数据中推断出未知类别的未标记数据，并且能在已知和未知类别的聚类任务中提供可靠的理论保证。

    Nov, 2023

  • 在开放环境中检测和学习非分布数据：算法和理论

    这篇论文在机器学习领域做出了重要贡献，特别是在面对前所未见的数据和情境的开放世界情况下。通过研究开放世界机器学习中的 Out-of-distribution (OOD) Detection 和 Open-world Representation Learning (ORL) 两个关键步骤，该论文提出了算法解决方案和理论基础，为构建性能卓越且在不断变化的复杂实际世界中可靠的机器学习模型铺平了道路。

    Oct, 2023

  • 重新思考开放世界半监督学习：分布不匹配和归纳推理

    该研究通过解决开放世界半监督学习中的假设假设和评估方法的问题，以扩展实用的开放世界半监督学习。

    May, 2024

  • 开放式半监督学习用于节点分类

    OpenIMA 是一个不依赖预训练图编码器的鲁棒性、基于对比学习的方法，用于从头开始训练节点分类模型并通过减小偏差的伪标签来解决开放世界半监督节点分类问题。

    Mar, 2024

  • 填补鸿沟：学习速率同步的开放世界半监督学习

    开放世界半监督学习中，通过估计类别分布的自适应边界损失和伪标签对比聚类的引入，解决了已有模型在学习新类别方面的困难，平衡了已见类别与新类别，并在 ImageNet 数据集上相较之前的最新技术提高了 3% 的平均准确率。

    Sep, 2023