CVPRMar, 2023

低层级结构分割的明确视觉提示

PDF
TL;DR本研究提出了一种名为明确视觉提示（EVP）的新型视觉提示模型，通过引入预先训练和提示微调协议，同时从冻结的补丁嵌入和输入的高频成分中进行显式视觉内容的关注，能够有效地解决图像分割、失焦检测、阴影区域和隐藏对象等低级结构检测问题。与领域特定的解决方案相比，EVP 在所有这些问题上都表现出良好的统一性能、更高的检测准确率和更少的可调参数量。
发现论文，激发创造
  • 通用前景分割的显式视觉提示

    该论文提出了一个基于预训练及显式视觉提示（EVP）的统一框架，用于多个前景分割任务，其性能优于全调参及其他节约参数细调的方法，并展示了该方法在不同架构、预训练权重和任务上的可扩展性。

    May, 2023

  • 直接视觉提示用于视觉目标跟踪

    提出了一种基于明确视觉提示框架的视觉跟踪方法 EVPTrack，通过利用时空令牌在连续帧之间传播信息，生成明确的视觉提示，从而有效利用时空和多尺度信息，提升了模型的效率和性能。

    Jan, 2024

  • 医学视觉引导（MVP）：一种用于多功能和高质量医学图像分割的统一框架

    准确分割病变区域对于各种疾病的临床诊断和治疗至关重要。本研究提出了一种新颖的医学视觉提示 (MVP) 框架，借鉴了自然语言处理 (NLP) 的预训练和提示概念，通过整合 SPGP、IEGP 和 AAGP 三个关键组件，使得分割网络更好地学习形状提示信息并实现不同任务之间的相互学习，实验结果表明此方法在各种具有挑战性的医学图像任务中表现优越。

    Apr, 2024

  • 视觉背景提示

    本文介绍了一种通用的视觉上下文提示框架，以支持涂鸦、方框和点等各种提示类型，并进一步改进以支持任意数量的上下文。通过在 COCO 和 SA-1B 上进行联合训练，我们的模型在 COCO 上达到 57.7 PQ，在 ADE20K 上达到 23.2 PQ。

    Nov, 2023

  • 在像素级别释放视觉提示的威力

    本文提出一种简单且有效的视觉提示方法，用于将预训练模型适应下游识别任务。并重新引入了两种常用技术，即输入多样性和梯度归一化。该方法在 12 个流行的分类数据集上创造了 82.8％的平均准确率的记录，并提供了代码。

    Dec, 2022

  • 细粒度视觉提示

    本文介绍了一种新的零样本学习框架，Fine-Grained Visual Prompting（FGVP），通过使用精确的掩码注释来改进视觉提示设计，并展示了在不同的基准测试上均优于传统方法的性能表现。

    Jun, 2023

  • LaViP: 语言驱动的视觉提示

    通过语言引导的视觉提示方法，我们使视觉语言模型的视觉编码器适应下游任务，从而提高适应性和泛化性能。

    Dec, 2023

  • 探索视觉提示以适应大规模模型

    通过视觉提示来适应视觉中的大规模模型，这种方法在适应预先训练模型方面非常有效。

    Mar, 2022

  • 面向高效视觉 - 语言微调的记忆空间视觉提示

    当前关于高效构建大型视觉语言模型的解决方案采用两步骤范式：将预训练视觉编码器的输出投射到预训练语言模型的输入空间作为视觉提示，然后通过端到端参数高效调优（PEFT）将模型转移到下游视觉语言任务。然而，这一范式仍然存在低效性，因为它显著增加了语言模型的输入长度。本文提出了一种新颖的方法，称为内存空间视觉提示（MemVP），与将视觉提示集成到输入不同，我们将视觉提示视为有助于语言模型处理与视觉信息相关任务的附加知识。通过在语言模型的前馈网络（FFN）中加入视觉提示与权重的连接，MemVP 方法大大减少了微调视觉语言模型的训练时间和推理延迟，并且在各种视觉语言任务和语言模型上的实验证明其性能超越了先前的 PEFT 方法。

    May, 2024

  • 通过图像提示构建训练无关的开放世界分割基础模型

    通过使用图像概念传达的视觉概念，本研究首次探索了使用基础模型进行开放世界理解的方法，提出了一种名为图像提示分割（IPSeg）的新方法，该方法利用了图像提示技术，通过提取强大的特征，并通过新颖的特征交互模块将输入图像的表示与提示图像的表示进行匹配，以生成突出显示输入图像中目标对象的点提示，并进一步利用生成的点提示来指导 Segment Anything Model 对输入图像中的目标对象进行分割，从而消除了繁琐的训练过程，提供更高效和可扩展的解决方案。

    Oct, 2023