通过关注特征规范提升少样本学习

AAAIMar, 2024

通过关注特征规范提升少样本学习

Boosting Few-Shot Learning via Attentive Feature Regularization

Xingyu Zhu, Shuo Wang, Jinda Lu, Yanbin Hao, Haifeng Liu...

TL;DR基于多样性正则化的少样本学习旨在通过混合来自不同类别的两个样本及其融合因子的方法，提高对有限训练样本的新颖对象的识别能力。然而，这种混合操作通过线性插值和忽视特定通道的重要性削弱了特征表示。为了解决这些问题，本文提出了一种注意力特征正则化（AFR）的方法，旨在提高特征的代表性和可辨识性。在我们的方法中，我们首先计算不同语义标签类别之间的关系，以挑选用于正则化的相关特征。然后，我们在实例和通道级别设计了两个基于注意力的计算方法。这些计算使正则化过程能够关注两个关键方面：通过相关类别中的自适应插值来提高特征的互补性，以及强调特定的特征通道。最后，我们结合这些正则化策略显著提高了分类器的性能。对几个流行的少样本学习基准进行的实证研究证明了 AFR 的有效性，它提高了新颖类别的识别准确性，而无需重新训练任何特征提取器，特别是在 1-shot 设置中。此外，所提出的 AFR 可以无缝集成到其他少样本学习方法中，以提高分类性能。

Abstract

few-shot learning (FSL) based on manifold regularization aims to improve the recognition capacity of novel objects with limited training samples by mixing two samples from different categories with a blending fac

few-shot learning manifold regularization attentive feature regularization feature representation classifier performance

发现论文，激发创造

多方位原型的少样本图像分类

本文提出了一种基于 facets 的自适应相似性度量方法，该方法可以被用于改进现有的基于度量的 few-shot learning 模型，并在 miniImageNet 和 CUB 数据集上实现了 state-of-the-art 的表现。

Feb, 2021

对抗性特征幻化网络用于少样本学习

本文提出基于条件 Wasserstein 生成对抗网络的对抗特征幻觉网络（AFHN），利用少量有标签样本来生成可区分性和多样性的特征向量以解决数据标注不足的问题，并通过对比实验证明了该方法优于现有基于数据增强的 few-shot learning 方法和其他先进方法。

Mar, 2020

探索不变与等变表征在少样本学习中的互补优势

本论文提出了一种新的训练机制，同时注重等变性和不变性，使得模型能够充分学习具有独立性的特征以及几何变换的结构，进而能够在具有少量数据的情况下很好地推广。通过引入自我监督的蒸馏目标，本文的方法即使不使用知识蒸馏，在五个流行数据集上的表现也能超过目前最先进的 few-shot learning 方法。

Mar, 2021

视觉 - 语义对比对齐在小样本图像分类中的应用

本文介绍了一种对称的对齐机制，用于学习从极少的例子中获取更广义的视觉概念的方法。实验结果表明，该方法是通用的，并提供了一个强大的基准。

Oct, 2022

LSFSL: 利用形状信息进行少样本学习

LSFSL improves the generalizability and robustness of few-shot learning models by incorporating relevant priors and addressing shortcut learning in deep neural networks.

Apr, 2023

自适应边界损失增强少样本学习

本文针对小样本学习（few-shot learning）的泛化困难问题，提出了一种自适应_margin_方法，改善了基于度量的元学习方法的泛化能力，并通过实验验证了该方法的有效性。

May, 2020

基于混合特征空间学习的少样本图像分类

该研究提出了一种混合模型特征空间学习方法，即在网络训练过程中以在线形式同时训练特征提取器和混合模型参数，以实现富有、强健的特征表示，并通过实验证明了该方法的有效性及其在少样本学习领域的优越表现。

Nov, 2020

通过嵌入空间正则化和数据增广进行连续少样本关系学习

本文提出了一种基于嵌入空间规范化和数据增强的新模型，用于以少量标记数据学习新的关系模式，并避免对以前任务的重大遗忘，实验表明此方法在连续少样本关系学习任务中显著优于现有技术。

Mar, 2022

生成少样本分类的代表性样本

基于条件变分自编码器模型，使用语义嵌入生成视觉样本，通过训练生成具有代表性的样本来改善数据稀缺性问题，提升 few-shot 分类效果，实验结果表明我们提出的方法在 1-shot 和 5-shot 设置下在 miniImageNet 和 tieredImageNet 数据集上实现了最先进的性能。

May, 2022

正确绘制流形图：用于小样本学习的 Manifold Mixup

本文研究了 Manifold Mixup 在 few-shot 学习中的作用，并结合自监督学习和正则化技术，提出了一种名为 S2M2 的方法，显著提高了 few-shot 学习的性能，并在 CIFAR-FS、CUB、mini-ImageNet 和 tiered-ImageNet 等标准 Few-shot Learning 数据集上打破了当前最新的准确性记录。

Jul, 2019