CVPRMar, 2023

适用于零样本基于草图的图像检索的 CLIP, 是否精细或不精细

PDF
TL;DR本文提出了将 CLIP 和 prompt learning 应用于 sketch-based image retrieval (ZS-SBIR) 中，通过专门设计的 prompt 学习机制，在分类和精细匹配两个方面都获得了比之前最先进的方法更出色的表现。
clipzero-shotsketchimage retrievalprompt learning
发现论文，激发创造
  • 基于草图的图像检索的双模态提示

    在本研究中，我们提出了一种双模态的提示 DP-CLIP 网络，通过采用自适应提示策略，以有效地适应新类别并捕捉每个目标类别内的独特鉴别线索，从而实现了在零样本和细粒度领域内的检索任务的创新。

    Apr, 2024

  • 零样本基于草图的图像检索的改进与对齐

    本文提出了一种有效的 “适应和对齐” 方法来解决无人监督草图图像检索（ZS-SBIR）中的关键挑战，并通过与更语义化的文本嵌入相对齐实现了从已见类到未见类的知识转移。

    May, 2023

  • Doodle to Search: 实用的零样本基于草图的图像检索

    本文提出了一种新的零样本基于草图的图像检索 (ZS-SBIR) 场景，该场景能够有效解决 ZS-SBIR 实际应用中常见的大领域差异和大规模检索问题，提供了一个全新的 ZS-SBIR 数据集 QuickDraw-Extended，采用了一种新策略来处理领域差异，同时集成了外部语义知识以帮助语义转换，实验表明该模型在现有数据集上表现优异，并提供训练代码和数据集以供未来研究使用。

    Apr, 2019

  • 利用未标记的照片提高细粒度的 SBIR

    本文提出了一种先进的细粒度基于草图的图像检索方法，通过两个关键问题的解决方案实现了超过之前最新方法约 11％的提高：在感知空间几何方面充分强制执行标准三元组损失及使用预先训练的教师和知识蒸馏技术来充分利用图像数据。

    Mar, 2023

  • 零样本全域面向素描图像检索，并具有可解释性

    本文研究了零短距离素描图像检索（ZS-SBIR）问题，并提出了一种基于 transformer 的跨模态网络，包括可学习 tokenizer 的自我关注模块，计算视觉 tokens 之间的交叉关注模块，以及基于核的相关网络，通过对组之间的比较，实现了优秀的性能，同时通过可视化 tokens 实现了解释性。

    Mar, 2023

  • FiGCLIP: 细粒度 CLIP 适应通过密集标注视频

    通过基于 VidSitu 数据集的细节导向字幕和层级损失，我们改进了 contrastive language image pretraining (CLIP) 模型，提高了其对细粒度和句法的理解能力，并在不同任务中取得了稳定的改进。

    Jan, 2024

  • 基于素描的图像检索零样本框架

    提出基于生成模型的零样本学习用于手绘图像检索的新方法，在经过大量实验验证后，发现这种方法比现有的方法在检索不同类别的图片时性能更好。

    Jul, 2018

  • 即兴精细草图检索

    本文通过优化基于细粒度素描的图像检索方法，使用增强学习及跨模态检索框架实现检索效率的提升与最少笔画查询目标图像的目标，是一种有效的搜索框架。

    Feb, 2020

  • 领域平滑网络用于零样本基于草图的图像检索

    该研究提出了一种基于领域平滑网络 (DSN) 的零样本图形检索 (ZS-SBIR) 方法，该方法通过使用跨模态对比方法挖掘增强样本的关系以平滑领域差距，并在草图领域中探索类别特定的记忆库来减少草图的内类别差异。实验结果表明，该方法在 Sketchy 和 TU-Berlin 数据集中表现出色。

    Jun, 2021

  • ZegCLIP：面向零样本语义分割的 CLIP 自适应

    本文提出了一种基于 CLIP 的零样本语义分割方法 ZegCLIP，将其从图像级别扩展到像素级别，通过三种简单而有效的设计处理过拟合问题，具有更好的泛化能力和速度优势。

    Dec, 2022