Jul, 2024

学习调整CLIP的元特征以实现少样本分类的类别一致性

HTML
PDF
TL;DR通过结合局部表示和高层语义表示的互补优势，我们提出了 Meta-Feature Adaption 方法 (MF-Adapter)，并使用 Meta-Feature Unit（MF-Unit）来适应图片特征，从而在无标签样本下达到更好的分类性能。
发现论文，激发创造
  • 自适应交叉模态少样本学习

    本文提出了一种机制，可以根据待学习的新图像类别自适应地从视觉和语义两方面结合信息，通过一系列实验表明，这种自适应组合可以在所有基准和few-shot情景上大幅优于当前单模态学习方法和模态对齐方法，特别是在少样本的情况下。

    Feb, 2019

  • 重新思考少样本图像分类：一个好的嵌入就足矣？

    本研究提出，以meta-training data为基础，先学习一个监督或自我监督的表征，再在表征上训练线性分类器，可以优于现有的few-shot learning方法。自教学技术可以进一步改善。这表明好的学习嵌入模型比复杂的元学习算法更有效。

    Mar, 2020

  • 通过少样本任务的特征重新审视无监督元学习

    本篇论文提出了基于无监督元学习（UML）的通用嵌入向量生成方式用于few-shot learning，并结合数据增强、半标准化相似度、混淆实例合成、任务相关嵌入变换等技术，取得了显著优于以前UML方法和甚至优于有监督方法的成果。

    Nov, 2020

  • Few-shot图像分类：使用预训练特征提取器库和简单分类器

    本研究探讨使用预训练特征提取器的集成方法来解决跨域少样本图像分类问题，实验结果表明这种简单且高效的方法在多个少样本任务上都能胜过复杂的元学习算法。

    Jan, 2021

  • Meta-DETR: 利用类别内部关联的图像级少样本目标检测

    该文研究了Few-Shot Object Detection的元学习，提出了一种Meta-DETR框架，该框架利用关联聚合和DETR检测框架实现元学习，避免使用预测不准的区域建议，提升了知识泛化能力，在多个少样本目标检测基准测试中优于现有方法。

    Mar, 2021

  • 在一个统一的少样本分类基准上比较迁移学习和元学习方法

    本研究对元学习和迁移学习两种方法在小样本学习领域的应用进行了交叉研究，以 Meta-Dataset 和 Visual Task Adaptation Benchmark 两个基准测试集进行了测试，发现大规模的迁移学习方法表现最佳。

    Apr, 2021

  • CAD: 为了改善少样本分类而共同适应辨别特征

    本研究提出一种基于自注意力机制的特征重加权策略，实现在给定极少标注样本情况下进行元学习，大幅优于同类现有方法3%~5%。

    Mar, 2022

  • Tip-Adapter: 无需训练的适应 CLIP 用于少样本分类

    本篇论文提出了一种利用键值缓存模型构建适配器的零训练方法 Tip-Adapter，来有效地增强 Contrastive Vision-Language Pre-training（CLIP）的适应能力，为少样本学习提供了一个计算资源高效的选择。实验证明，Tip-Adapter 在 11 个数据集上均有突出表现，并可以通过少量的模型微调达到 ImageNet 上的最优。

    Jul, 2022

  • 元适配器：一个用于视觉-语言模型的在线少样本学习者

    提出了Meta-Adapter方法，它是一种轻量级的残差式适配器，通过在线学习利用少量样本来优化CLIP特征，从而实现有效的少样本学习能力和泛化到未见过的数据或任务的能力，并取得了竞争性的性能和高效率。

    Nov, 2023

  • 多模态CLIP推理用于元-少样本图像分类

    结合CLIP的文本和图像编码器的多模态方法，在广泛采用的基准测试上超越了最先进的元少样学习模型，而无需额外训练。

    Mar, 2024