Apr, 2024

无词汇图像分类与语义分割

PDF
TL;DR通过引入外部数据库，提出了一种无需预定义类别词汇即可对图像进行分类和语义分割的方法，该方法基于预训练的视觉 - 语言模型，使用较少参数的情况下在分类和语义分割基准上优于其他更复杂的模型。
large vision-language modelsvocabulary-free image classificationcategory search from external databasesvocabulary-free semantic segmentationpre-trained vision-language model
发现论文，激发创造
  • 无需词汇的图像分类

    该论文提出了一种名为 “无词汇图像分类（VIC）” 的新任务，通过使用外部视觉语言数据库（即语义空间）来解决这个任务，为此提出了一个名为 CaSED 的方法，它利用预训练的视觉语言模型和外部视觉语言数据库在训练自由的情况下来完成任务，与其他复杂的视觉语言框架相比，在参数更少的情况下具有更好的分类效果。

    Jun, 2023

  • 无需指导的开放词汇语义分割

    TAG 是一种新颖的方法，用于在计算机视觉中进行无需训练、注释和指导的开放词汇语义分割，通过利用预训练模型以及来自外部数据库的类别标签检索，达到了在 PascalVOC、PascalContext 和 ADE20K 数据集上的开放词汇分割的最新成果。

    Mar, 2024

  • IFSeg：基于视觉语言模型的无图像语义分割

    本文提出了一种新的无图像分割任务，旨在通过视觉语言预训练模型，生成基于语义类别的人工图像分割对，并通过对这些人工对的学习，让预训练模型适应于分割任务，该方法在实验中表现良好。

    Mar, 2023

  • 通过对比和聚类视觉语言嵌入进行开放世界语义分割

    本文提出了一种基于图像文本交互的语义分割模型 ViL-Seg，通过无需密集标注的方式，利用网络上自然存在的图像和文本数据，学习到能够直接分割任意开放世界类别对象的能力，实验结果在三个基准数据集上优于需要数据标注的零样本分割方法。

    Jul, 2022

  • 自导引开放词汇语义分割

    通过提出自主引导的语义分割（Self-Seg）框架和基于 LLM 的开放式词汇评估器（LOVE），在不需要提供类别名称的情况下，实现了开放式词汇分割的最新成果，并与提供类别名称的方法相竞争，取得了 Pascal VOC、ADE20K 和 CityScapes 的最具竞争力的结果。

    Dec, 2023

  • 无需训练的离线扩散增强原型生成开放词汇分词

    该论文介绍了一种用于开放词汇语义分割的无需训练的扩散增强方法（FreeDA），通过扩散模型的能力来可视化生成概念并通过局部 - 全局相似性将无类别区域与语义类别匹配，从而在五个数据集上实现了超过 7.0 平均 IoU 点的最先进性能，而无需任何训练。

    Apr, 2024

  • 探索无人类标签的开放词汇语义分割

    该论文介绍了一种使用预训练的图像 - 语言模型进行零样本学习的语义分割方法，将预训练模型中的视觉概念知识转化为分割区域的语义信息表示（即 segment tokens）并应用于视觉语义分割任务中。实验结果表明，该方法在多个公共基准数据集上可以达到与有监督训练方法相竞争的效果。

    Jun, 2023

  • 名称背后的含义：超越图像识别分类指数

    本论文使用非参数方法建立图像之间的关系，设计出一种基于视觉语言模型的图像分类方法，使模型在图像分类问题上能更好地解决零样本和半监督问题，将语义信息映射到图像分类上，并在 ImageNet 数据集中取得了约 50% 的性能提升。

    Apr, 2023

  • 开放式视频实例分割

    本文提出了开放词汇视频实例分割这一新颖任务，在收集的大词汇量视频实例分割数据集上基于集成的 MindVLT 实现了该任务。实验结果表明，该方法能够有效地处理实际中从未见过的新类别，并且提供了数据集和代码以促进未来的研究。

    Apr, 2023

  • 利用视觉语言模型将少样本图像分类和分割作为视觉问答

    用视觉引导的分割和评估方法将少样本图像分类和分割问题转化为视觉问答问题，利用视觉语言模型以无需训练的方式进行解决，并通过交互式学习和模块化框架达到最先进的性能。

    Mar, 2024