ICLRJan, 2020

通过学习的特征转换实现跨域少样本分类

PDF
TL;DR本文旨在解决度量方法下少样本分类领域差异的问题，使用特征转换层进行数据增强以模拟不同域下的特征分布，并应用 “学习学习” 方法搜索超参数来捕捉不同域下的特征分布变化，实验结果表明该方法适用于不同的度量模型，能够提高少样本分类准确性。
few-shot classificationmetric-based methodsdomain shiftfeature-wise transformation layershyper-parameters
发现论文，激发创造
  • 基于判别示例引导和参数高效的特征空间适应的跨领域少样本学习

    本文研究跨领域少样本分类，通过引入轻量级参数适配策略和方差感知损失函数来提高模型性能，在 Meta-Dataset 基准测试中，相较于现有方法，准确率分别提高了 7.7% 和 5.3%，且参数效率至少提高 3 倍，达到了新的国际水平。

    Mar, 2024

  • 通过对抗任务增强的跨领域少样本分类

    针对 few-shot 分类在训练和测试分布之间的域变化导致在测试上性能下降的问题，提出了通过任务增强来改善归纳偏置的鲁棒性，具体来说，采用对抗任务增强方法来生成具有挑战性的任务，可以提供简单的即插即用模块来提高元学习模型在跨域通用性中的性能。

    Apr, 2021

  • CrossTransformers: 空间感知的少样本迁移

    本文研究了现代视觉系统的表现下降原因：监督学习时神经网络模型表示出现了监督崩溃现象，即模型丢失了一些与训练任务无关但对多任务或多领域转移有用的信息。作者提出了两种方法来缓解该问题：一是利用自监视学习以鼓励更通用的特征，二是提出了一种新型的基于 Transformer 的神经网络结构 CrossTransformers，可以用少量标记图像和无标记查询项，找到查询项与标记图像之间的粗略空间对应关系，从而通过计算空间对应特征之间的距离来推断其分类。结果是得到一个更加适应任务和领域转移的分类器，证明了在 Meta-Dataset 上的最新成果。

    Jul, 2020

  • 跨域小样本学习的双自适应表示对齐

    本文提出了一种基于元学习的双自适应表示对齐方法，针对跨域小样本学习问题，在极少量样本的情况下，通过特征和分布的对齐，实现了更好的泛化能力及更高的成果。

    Jun, 2023

  • 基于特征分布的迁移学习少样本学习方法

    本文提出了一种新颖的基于转移学习的方法，通过预处理特征向量使其更接近高斯分布，并利用基于最优输运的算法 (在普遍情况下) 加以利用，证明了该方法在各种数据集、主干体系结构和少样本情形下达到最先进的准确性。

    Jun, 2020

  • 预训练网络的少样本领域适应

    提出了一种少样本领域自适应框架，通过受目标域的一个小支持集合监督的预训练源模型中的特征标准化统计的约束优化，可改善源模型的分类性能，实验证明该方法优于测试时适应方法，并且没有实时流条件的限制。

    May, 2022

  • 多域表示下的几分类问题中有关特征的选择

    本篇论文提出了一种基于特征选择的新策略，可以更加简单和有效地应对 few-shot 分类问题。该方法首先训练多个具有不同语义的特征提取器，然后根据特定任务的需求自动选择最相关的特征表示，并在此基础上构建简单的非参数分类器，可以在 MetaDataset 数据集上实现最新的结果及 mini-ImageNet 上实现进一步准确度的提高

    Mar, 2020

  • 跨层蒸馏和特征去噪用于跨领域少样本分类

    我们通过在训练阶段让目标领域中的一小部分无标签图像可访问，解决基于跨域 few-shot 分类的问题，同时通过指导网络的浅层学习更高级别的信息的跨层级知识蒸馏方法提取更有区分度的特征，以及通过特征去噪操作减少特征冗余并减轻过拟合，我们的方法在 BSCD-FSL 基准测试中平均超过了先前的最优方法 Dynamic-Distillation 在 1-shot 和 5-shot 分类任务上分别提升了 5.44% 和 1.37%。

    Nov, 2023

  • 表示融合的跨域少样本学习

    提出了一种称为 Cross-domain Hebbian Ensemble Few-shot learning (CHEF) 的方法，通过深度神经网络不同层次的 Hebbian 学习器进行集成表示融合，从而实现跨领域 Few-Shot Learning。在小域移位的 few-shot 数据集上，表现与现有方法有竞争力，在大域移位的 Few-Shot Learning 基准测试中，CHEF 建立了新的最佳结果，并在药物发现的跨领域应用中表现出更强的实用性。

    Oct, 2020

  • 多个领域的少样本分类通用表示学习

    本文介绍了通过适配器和居中核对齐等方法，利用多个分别训练的网络的知识来同时学习多个领域上通用的深度表示，通过距离学习方法来有效适应之前未见过的领域，并在 Meta-Dataset 基准测试中取得显著的性能提升。

    Mar, 2021