少样本分类中的泛化思考

Jun, 2022

Rethinking Generalization in Few-Shot Classification

Markus Hiller, Rongkai Ma, Mehrtash Harandi, Tom Drummond

TL;DR通过将输入样本分割成补丁，并借助 Vision Transformers 对其进行编码，从而在图像的局部区域之间建立语义对应关系，而不受其各自类别的影响。利用掩蔽图像建模等方法进行无监督训练，以克服标签不够精细以及避免负面的图像级注释影响，实现了对数据的更一般的统计结构的学习，并在四个流行的 Few-shot 分类基准测试中，对于 5-shot 和 1-shot 情形均取得了新的最优结果。

Abstract

Single image-level annotations only correctly describe an often small subset of an image's content, particularly when complex real-world scenes are depicted. While this might be acceptable in many classification scenarios, it poses a significant challenge for applications where the set of classes differs significantly between training and test time. In this

few-shot learning vision transformers image-level annotation unsupervised training statistical structure

发现论文，激发创造

少样本图像分类的类相关补丁嵌入选择

我们提出了一种有效的图像分类方法，通过从前景和背景元素中选择相关特征和使用预训练的 Vision Transformer (ViT) 对图像进行编码，然后通过筛选类相关的补丁嵌入来改善预训练模型的性能，并在流行的少样本分类基准测试中超过了现有的基线。

May, 2024

简单语义辅助的少样本学习

利用少量数据进行学习是一项具有挑战性的计算机视觉任务，本文通过引入高质量的语义以及使用简单的网络结构，设计了一个名为 “语义进化” 的自动化方式来解决少样本学习中的问题，实验证明该方法在少样本分类任务中表现优异。

Nov, 2023

少样本图像分类的匹配特征集

本文提出了一种称为 SetFeat 的方法，将现有特征提取器改为从图像中提取一组特征向量，进而实现更好地将基类的富表示性转移到 few-shot 类中。

Apr, 2022

现实场景下的带有区域定位的小样本学习

介绍了三个无需参数的改进方案（a）基于将交叉验证适应到元学习的更好的训练流程，（b）使用有限的边界框注释来定位目标的新型架构，以及（c）基于双线性汇总的特征空间的简单无需参数的扩展，这些改进共同使得算法能够在真实世界的识别问题中表现更好。

Apr, 2019

无监督学习在少样本图像分类中的应用

本研究提出了一种自我监督学习的方法，以训练更通用的嵌入网络，可以在少样本的情况下实现更好的图像分类性能，即使在跨域情况下也表现出一定的鲁棒性。

Nov, 2019

计算机视觉中的少标注学习：图像分类和目标检测任务应用

本研究通过理论、算法和实验贡献来研究在标签有限情况下的机器学习，重点关注计算机视觉中的图像分类和目标检测任务，并提出了用于少样本分类中流行的元学习算法的理论与实践之间的联系，以及基于 Transformer 架构的目标检测器在训练过程中如何利用无标签数据的方法。

Nov, 2023

小样本图像识别的语义提示

该研究提出了一种基于语义提示的适应性视觉特征提取方法，通过在空间和通道维度插入语义提示来提高视觉特征提取器的处理能力，从而在极少量的支持样本下，实现更好的类别特定特征捕捉和更广泛的图像表示。

Mar, 2023

语言引导的少样本语义分割

通过语言信息进行语言指导的少样本语义分割，使用视觉 - 语言预训练模型和遮罩优化来生成高质量伪语义遮罩，引入分布式原型监督方法和互补相关匹配模块来指导模型挖掘支持和查询图像的精确语义关系。在两个基准数据集上的实验表明，我们的方法为语言指导的少样本语义分割建立了新的基准，并达到了与最近的视觉指导方法竞争的结果。

Nov, 2023

利用可学习视角对比学习提升少样本分类

通过引入对比损失和学习算法，本研究提升了少样本分类任务中的细分子类别鉴别能力，实现了在嵌入空间中的潜在细粒度结构学习，并通过在标准小样本学习基准测试中的广泛试验验证了该方法的优越性。

Jul, 2021

重新思考少样本图像分类：一个好的嵌入就足矣？

本研究提出，以 meta-training data 为基础，先学习一个监督或自我监督的表征，再在表征上训练线性分类器，可以优于现有的 few-shot learning 方法。自教学技术可以进一步改善。这表明好的学习嵌入模型比复杂的元学习算法更有效。

Mar, 2020