CVPRMar, 2021

StyleMeUp：面向风格无关的基于草图的图像检索

PDF
TL;DR提出了一种新颖的风格无关的基于变分自编码器的素描图像检索模型，采用元学习框架，可以将每个素描显式地分解为与之对应的真实照片的共享语义内容部分和独特于手绘者的风格部分，并将其动态地适应到任何未见过的用户风格中。实验结果表明，该模型在类别级和实例级素描图像检索中都表现出了最先进的性能。
sketch-based image retrievalcross-modal matchingvariational autoencoderstyle-agnosticmeta-learning
发现论文，激发创造
  • 零样本基于素描的图像检索生成模型

    提出了一种基于概率模型的草图图像检索方法，采用生成模型来生成图像，并使用反向自回归流和反馈机制保证了图像生成的效果，实验结果表明该方法在两个数据集上的表现优于基线方法。

    Apr, 2019

  • 零样本基于草图的图像检索中的语义感知知识保留

    本文提出了一种名为 Semantic-Aware Knowledge prEservation (SAKE) 的方法，在预训练模型的基础上通过 fine-tunes 和利用语义信息来保留图像检索中先前获得的知识，从而在零样本学习的场景下实现更好的性能表现。

    Apr, 2019

  • 基于素描的图像检索零样本框架

    提出基于生成模型的零样本学习用于手绘图像检索的新方法，在经过大量实验验证后，发现这种方法比现有的方法在检索不同类别的图片时性能更好。

    Jul, 2018

  • 面向零样本基于草图的图像检索的模态感知表示学习

    零样本学习在机器学习模型中提供了一种有效的解决方案，用于处理未见类别，避免了繁琐数据收集。本文提出了一种新颖的框架，通过对比文本间接对齐素描和照片，避免了对素描照片成对样本的需求。通过从数据中学习明确的形态编码，我们的方法将形态不可知的语义与形态特定信息进行了分解，桥接了形态间的差距，并在联合潜空间内实现了有效的跨模态内容检索。通过全面的实验验证了所提出模型在零样本基于素描的图像检索上的有效性，并可应用于广义和细粒度设置。

    Jan, 2024

  • 自适应细粒度基于草图的图像检索

    提出了一种基于元学习 (MAML) 的框架来实现 Fine-Grained Sketch-Based Image Retrieval (FG-SBIR) 模型的快速适应新类别和绘画风格的问题，通过内循环中基于边缘对比损失的训练和外循环中引入额外的正则化损失，相比常规和零样本方法，可以获得更好的性能和精准度的几个强基线测试结果。

    Jul, 2022

  • Transformer 和 CNN 都在 SBIR 上击败了人类

    本文介绍了以往三元组 SBIR 方案存在的问题，提出了建立具有更好翻转等变性的 SBIR 解决方案的多种方法，并深入评估了每种方法的有效性，揭示了视觉 Transformer 对于 SBIR 任务更加适用，性能比卷积神经网络高得多，引入了第一个在大规模 SBIR 基准（Sketchy）上超越人类表现的模型，具体表现为召回率 62.25％，比以前的最先进方法 46.2％高。

    Sep, 2022

  • 零样本基于草图的图像检索的改进与对齐

    本文提出了一种有效的 “适应和对齐” 方法来解决无人监督草图图像检索（ZS-SBIR）中的关键挑战，并通过与更语义化的文本嵌入相对齐实现了从已见类到未见类的知识转移。

    May, 2023

  • 基于堆叠对抗网络的零样本素描图像检索

    本论文提出了一种基于生成对抗网络和连体网络的零样本草图图像检索方法，该方法在标准 ZSL 和广义 ZSL 设置下均获得了显著的提高。

    Jan, 2020

  • 零样本基于草图的图像检索的对称双向知识对齐

    该论文提出了一种用于零样本草图图像检索的新型方法，采用了对称双向知识对齐学习框架以实现教师和学生模型之间的知识对齐，通过一对多的聚类跨模态匹配方法来缩小模态差距，实验证明该算法在多个 ZS-SBIR 数据集上表现优越。

    Dec, 2023

  • 零样本全域面向素描图像检索，并具有可解释性

    本文研究了零短距离素描图像检索（ZS-SBIR）问题，并提出了一种基于 transformer 的跨模态网络，包括可学习 tokenizer 的自我关注模块，计算视觉 tokens 之间的交叉关注模块，以及基于核的相关网络，通过对组之间的比较，实现了优秀的性能，同时通过可视化 tokens 实现了解释性。

    Mar, 2023