CVPRMar, 2022

用于少样本学习的变形金刚中的属性替代学习和光谱标记池化

PDF
TL;DR本文提出了一种新型的 Hierarchically Cascaded Transformers，它通过属性代理学习和光谱令牌池化来提高数据效率。在少量数据的情况下，HCTransformers 在几个流行的 Few-shot 分类基准上都表现出了优异的性能。
hierarchically cascaded transformersspectral tokens poolingattribute surrogates learningdata efficiencyfew-shot learning
发现论文，激发创造
  • 具有分层池化的可扩展视觉 Transformer

    本研究提出了 Hierarchical Visual Transformer (HVT) 模型，通过逐步分池视觉标记以缩短序列长度降低计算成本，从而改进了图像分类任务的性能，并在 ImageNet 和 CIFAR-100 数据集上实现了与竞争基线相比更好的结果。

    Mar, 2021

  • SpectralFormer：基于 Transformer 的高光谱图像分类的重新思考

    本研究提出了一种名为 SpectralFormer 的新型网络，它采用了变形金刚模型，从时序的角度重新构思了超光谱图像分类问题，并在三个数据集上证明了其优越性。

    Jul, 2021

  • HAT: 层次聚合变压器，用于人员再识别

    本论文提出了一种名为 “Hierarchical Aggregation Transformer” 的学习框架，将卷积神经网络和 Transformers 相结合，以实现图像人员 Re-ID，并在四个大规模 Re-ID 基准测试上获得了比几种最先进方法更好的结果。

    Jul, 2021

  • CrossTransformers: 空间感知的少样本迁移

    本文研究了现代视觉系统的表现下降原因：监督学习时神经网络模型表示出现了监督崩溃现象，即模型丢失了一些与训练任务无关但对多任务或多领域转移有用的信息。作者提出了两种方法来缓解该问题：一是利用自监视学习以鼓励更通用的特征，二是提出了一种新型的基于 Transformer 的神经网络结构 CrossTransformers，可以用少量标记图像和无标记查询项，找到查询项与标记图像之间的粗略空间对应关系，从而通过计算空间对应特征之间的距离来推断其分类。结果是得到一个更加适应任务和领域转移的分类器，证明了在 Meta-Dataset 上的最新成果。

    Jul, 2020

  • 金字塔分层变压器用于高光谱图像分类

    我们提出了一种基于金字塔形式的分层 Transformer 模型 (PyFormer)，用于提高高光谱图像分类的处理效率和抽象传播能力。实验结果显示，这种方法在提高传统方法的基础上有着更好的优势，并且通过集成不同层级的输出，进一步增强了鲁棒性和可靠性，从而展示了我们的方法在推动高光谱图像分类方面的潜力。

    Apr, 2024

  • 散射视觉变换器：谱混合的重要性

    Scattering Vision Transformer (SVT) introduces a novel approach to address attention complexity and capture fine-grained information in computer vision tasks, achieving state-of-the-art performance in tasks such as image classification and outperforming other transformers in transfer learning.

    Nov, 2023

  • DCN-T: 基于 Transformer 的双重上下文网络用于高光谱图像分类

    本研究提出了一种基于三波段图像生成、端到端分割网络和集成学习方法的高光谱图像分类方案，能够优于现有最先进的方法。

    Apr, 2023

  • 基于任务内互注意力的视觉 Transformer 模型用于少样本学习

    基于 Vision Transformer (ViT) 架构，本文提出了一种用于少样本学习的任务内互注意方法，通过交换支持集和查询集的类别标记与图像片段标记，实现了互注意，从而加强了类内表征，并促进了同一类别样本之间的相似性。与最先进的基准方法相比，在五个常见的少样本分类基准任务中，本文提出的框架在 5-shot 和 1-shot 情况下表现出的性能更好，同时具有简单、高效的计算能力。

    May, 2024

  • 自我监督的少样本变换器

    本研究探讨了视觉变换器 (ViT) 在少样本学习中的能力，发现在相同的少样本学习框架下，用 ViT 模型替换常用的 CNN 特征提取器会严重削弱少样本分类性能；本研究提出了一种名为 Self-promoted sUpervisioN (SUN) 的简单而有效的 ViT 少样本训练框架，用于改善 token 依赖性问题，并通过实验证明了 SUN 优于其他同类技术，并超过了 CNN 的最新研究成果。

    Mar, 2022

  • 粗到细的稀疏变换器用于高光谱图像重建

    该论文提出了一种基于 Transformer 的 CST 方法，首次将 HSI 稀疏性嵌入到深度学习中进行重建，使用 SA-MSA 进行粗细层次的像素聚类和自相似性捕捉，相比于现有方法具有更高的重建性能和更低的计算成本。

    Mar, 2022