Dec, 2023

零样本基于草图的图像检索的对称双向知识对齐

PDF
TL;DR该论文提出了一种用于零样本草图图像检索的新型方法，采用了对称双向知识对齐学习框架以实现教师和学生模型之间的知识对齐，通过一对多的聚类跨模态匹配方法来缩小模态差距，实验证明该算法在多个 ZS-SBIR 数据集上表现优越。
zero-shot sketch-based image retrievaltransferable knowledgesymmetrical bidirectional knowledge alignmentone-to-many cluster cross-modality matchingzs-sbir datasets
发现论文，激发创造
  • 面向零样本基于草图的图像检索的模态感知表示学习

    零样本学习在机器学习模型中提供了一种有效的解决方案，用于处理未见类别，避免了繁琐数据收集。本文提出了一种新颖的框架，通过对比文本间接对齐素描和照片，避免了对素描照片成对样本的需求。通过从数据中学习明确的形态编码，我们的方法将形态不可知的语义与形态特定信息进行了分解，桥接了形态间的差距，并在联合潜空间内实现了有效的跨模态内容检索。通过全面的实验验证了所提出模型在零样本基于素描的图像检索上的有效性，并可应用于广义和细粒度设置。

    Jan, 2024

  • 零样本基于草图的图像检索的改进与对齐

    本文提出了一种有效的 “适应和对齐” 方法来解决无人监督草图图像检索（ZS-SBIR）中的关键挑战，并通过与更语义化的文本嵌入相对齐实现了从已见类到未见类的知识转移。

    May, 2023

  • Doodle to Search: 实用的零样本基于草图的图像检索

    本文提出了一种新的零样本基于草图的图像检索 (ZS-SBIR) 场景，该场景能够有效解决 ZS-SBIR 实际应用中常见的大领域差异和大规模检索问题，提供了一个全新的 ZS-SBIR 数据集 QuickDraw-Extended，采用了一种新策略来处理领域差异，同时集成了外部语义知识以帮助语义转换，实验表明该模型在现有数据集上表现优异，并提供训练代码和数据集以供未来研究使用。

    Apr, 2019

  • 零样本基于草图的图像检索中的语义感知知识保留

    本文提出了一种名为 Semantic-Aware Knowledge prEservation (SAKE) 的方法，在预训练模型的基础上通过 fine-tunes 和利用语义信息来保留图像检索中先前获得的知识，从而在零样本学习的场景下实现更好的性能表现。

    Apr, 2019

  • 零样图像哈希化

    本文通过建立一个三网络体系结构的零样本手绘图像搜索算法，利用 Kronecker 融合层和图卷积来缓解手绘图像的异构性，并提出一种生成哈希方案来重建语义知识表示，实现了语义哈希，从而在 Sketchy 和 TU-Berlin 两个扩展数据集上取得了显著的性能提升。

    Mar, 2018

  • 零样本全域面向素描图像检索，并具有可解释性

    本文研究了零短距离素描图像检索（ZS-SBIR）问题，并提出了一种基于 transformer 的跨模态网络，包括可学习 tokenizer 的自我关注模块，计算视觉 tokens 之间的交叉关注模块，以及基于核的相关网络，通过对组之间的比较，实现了优秀的性能，同时通过可视化 tokens 实现了解释性。

    Mar, 2023

  • 基于素描的图像检索零样本框架

    提出基于生成模型的零样本学习用于手绘图像检索的新方法，在经过大量实验验证后，发现这种方法比现有的方法在检索不同类别的图片时性能更好。

    Jul, 2018

  • 领域平滑网络用于零样本基于草图的图像检索

    该研究提出了一种基于领域平滑网络 (DSN) 的零样本图形检索 (ZS-SBIR) 方法，该方法通过使用跨模态对比方法挖掘增强样本的关系以平滑领域差距，并在草图领域中探索类别特定的记忆库来减少草图的内类别差异。实验结果表明，该方法在 Sketchy 和 TU-Berlin 数据集中表现出色。

    Jun, 2021

  • 基于堆叠对抗网络的零样本素描图像检索

    本论文提出了一种基于生成对抗网络和连体网络的零样本草图图像检索方法，该方法在标准 ZSL 和广义 ZSL 设置下均获得了显著的提高。

    Jan, 2020

  • 零样本基于素描的图像检索的语义匹配循环一致性

    这篇论文提出了一个名为 SEM-PCYC 的零样本草图图像检索模型，通过对视觉信息到语义空间的映射进行对抗训练，以达到维护环路一致性的目的，并且使用生成器输出的分类标准确保了可辨别的视觉到语义空间映射。我们还通过特征选择自编码器结合文本和分层侧信息在同一个端到端模型中进行了组合。在 Sketchy 和 TU-Berlin 数据集上，我们的结果显著提高了零样本草图图像检索的性能。

    Mar, 2019