通过多样的监督解锁小数据的全部潜力

CVPRNov, 2019

通过多样的监督解锁小数据的全部潜力

Unlocking the Full Potential of Small Data with Diverse Supervision

Ziqi Pang, Zhiyuan Hu, Pavel Tokmakov, Yu-Xiong Wang, Martial Hebert

TL;DR本研究探讨了在小数据情况下的长尾识别问题，提出了一种以自然场景解析数据集 ADE20K 为基础的模型增强方法，并划分不同分布的头尾目标类别进行表示学习和评估，其中进一步围绕 “稀有类别” 和 “训练图像匮乏” 构建了两个新的研究方向，实验表明通过密集标注少量图像即可在一定程度上缓解小数据约束。

Abstract

Virtually all of deep learning literature relies on the assumption of large amounts of available training data. Indeed, even the majority of few-shot learning methods rely on a large set of "base classes" for pretraining. This assumption, however, does not always hold. For some tasks, annotating a large number of classes can be infeasible, and even collectin

small data long-tail recognition scarce-class scarce-image diverse supervision

发现论文，激发创造

学习长尾数据的降标签方法

减少长尾数据标注成本的弱监督学习方法，有效保留了尾部样本的有监督信息，并提出了一种简单高效且具有强大理论保证的学习框架，通过对 ImageNet 等基准数据集的广泛实验证实了其有效性，优于最先进的弱监督方法。

Mar, 2024

合成样例提高罕见类别泛化能力

研究了少量样本学习的一个解决方案，通过模拟数据来扩充现有训练数据，并应用于动物物种分类。研究结果显示，使用模拟数据可以大幅降低对稀有分类的误分类率，并且随着模拟数据量的增加，目标分类的准确性也随之提高，同时高变化的模拟数据提供了最大的性能提升。

Apr, 2019

从未标注的图像中发现部件并进行数据增强的小样本学习

本文介绍了一种基于元学习的方法，通过学习无标签图像的传递特征来进行 few-shot 学习，同时采用了基于部分的自监督表示学习和部分增强策略来缓解数据稀缺引起的过度拟合问题，并在 miniImageNet 和 tieredImageNet 的基准测试中表现出优异的性能。

May, 2021

远程学习：重新思考有限监督下的广义零样本学习

本文提出了基于产品专家公式和 A UD 模块的零样本和少量样本归纳学习框架，利用来自非数据类的未标记采样来提高任意数量学习的泛化能力，并证明了该模型适用于有限监督场景下的广义零样本模型。

Jul, 2021

自我监督到蒸馏：长尾视觉识别

本文提出了一种 Self Supervised 到 Distillation (SSD) 的概念简单却特别有效的多阶段训练方案，通过使用软标签，此方案能够很好的将标签相关性融入到多阶段训练方案中来有效的进行长尾识别，实验表明，我们的方法在几个长尾识别基准上均取得了最先进的结果。

Sep, 2021

MetaSAug: 面向长尾视觉识别的元语义增强

本文提出一种基于 ISDA 算法的新方法，通过元学习自动学习转换的语义方向来扩充极少数的分类数据样本，以达到解决单纯平衡训练集情况下典型有监督学习算法表现下降问题的目的，并在 CIFAR-LT-10 / 100、ImageNet-LT 和 iNaturalist 2017/2018 数据集上进行实验验证。

Mar, 2021

强监督下的多线索零样本学习

利用多个文本来源和语义部分注释来提供更强的监督辅助信息，达到零样本识别和检索的目标。

Mar, 2016

暗中开火：无基准类标签的小样本学习

通过实验，本研究发现自监督学习在小类别图像识别中的迁移性、鲁棒性、效率及可补充性都超过了传统的少样本学习方法，并以 3.9% 的准确度优势取得了成功，因此需要更深入地研究自监督学习在少样本学习中的作用。

Oct, 2020

少样本分类的标签幻觉

该研究提出了一种新的适用于 few-shot classification 的方法，使用伪标签技术结合蒸馏损失和标准交叉熵损失来解决小数据集的问题，并取得了比现有的算法更好的效果。

Dec, 2021

最近几种 Few-Shot 物体检测算法的比较评价

本研究综述了少样本物体检测的现有成果及未来展望，提出了基于数据的训练分类法和相应监督的形式，并对其定义、主要挑战、基准数据集、评估指标和学习策略进行了详细调查，最后总结了少样本目标检测的现状以及未来的研究方向。

Oct, 2021