CVPRMar, 2020

IMRAM: 交替匹配循环注意力记忆模型用于跨模态图像 - 文本检索

PDF
TL;DR本文提出一种迭代匹配循环注意力存储（IMRAM）的方法，用于捕捉图像和文本之间的细粒度对应关系，表现出了最先进的性能。
bi-directional retrievalattention mechanismsemantic conceptsfine-grained correspondencestate-of-the-art performance
发现论文，激发创造
  • 文本到图像的跨模态隐含关系推理和对齐的人物检索

    研究了跨模态对齐的图像检索问题，提出了一种 IRRA 框架，并在三个公共数据集上获得了优于现有方法的最新成果。

    Mar, 2023

  • 从全网图片 - 文本数据中检索来提高图像识别

    研究使用检索增强模型来提高计算机视觉任务的识别能力，引入了一种基于注意力机制的记忆模块，学习从外部记忆集合中检索出的每个例子的重要性，证明了使用 10 亿个图像 - 文本对的大规模记忆数据集的好处，并在 ImageNet-LT，Places-LT 和 Webvision 数据集中取得了最先进的准确性。

    Apr, 2023

  • 使用多模态预训练的检索增强型生物医学视觉问答系统 RAMM

    本文介绍了一种针对生物医学问题的图像和文字的多模态预训练和微调方法，该方法使用检索增强来克服数据限制问题，并收集了一个名为 PMCPM 的新生物医学数据集，实现了目前最先进的性能。

    Mar, 2023

  • 对抗表示学习用于文本到图像匹配

    本文提出了一种基于 TIMAM 和 BERT 的文本图像匹配模型，该模型可以学习到模态不变的特征表示，在四个公开数据集上取得了最优的交叉模态匹配性能，排名 1 的准确率提高了 2％到 5％。

    Aug, 2019

  • ARTEMIS：基于注意力机制的文本显式匹配与隐式相似度检索

    该论文通过观察文本到图像和图像到图像检索两者的关系，提出并验证了一种利用特殊关系而不需预训练大型架构等辅助信息，且表现最优秀的基于注意力机制协调图像和自由格式文本修饰符检索的方法。

    Mar, 2022

  • RAMiT: 轻量级图像恢复的互相关注混合 Transformer

    提出了一种轻量级图像恢复网络 Reciprocal Attention Mixing Transformer (RAMiT)，使用双向维度互相注意力混合 Transformer (D-RAMiT) 块进行计算，结合层次互补的双向关注混合层（H-RAMi），并将其与 MobileNet V1 和 V2 相结合，取得了包括超分辨率，去色噪音，低光增强和去雨等在内的多个任务的最新性能。

    May, 2023

  • CAMP: 文本 - 图像检索的跨模态自适应消息传递

    本文提出了一种跨模态自适应信息传递模型（Cross-modal Adaptive Message Passing, CAMP），通过自适应地控制跨模态信息的流动，全面且精细地考虑跨模态交互，使用硬负样本二元交叉熵损失函数进行训练，在 COCO 和 Flickr30k 上显著超过最先进方法，显示出了我们方法的有效性。

    Sep, 2019

  • 使用图形注意力学习图像文本匹配的双重语义关系

    本文提出了一种名为双重语义关系注意力网络 (DSRAN) 的新型图注意力方法，该方法主要由两个模块组成，分别进行不同层次的语义关系学习，从而提高图像文本匹配的准确性，并在 MS-COCO 和 Flickr30K 数据集上取得了显著优于以往方法的效果。

    Oct, 2020

  • 生成跨模态检索：以检索和超越为目的的多模态语言模型中的图像记忆

    构建在生成式语言模型基础上的多模态大型语言模型（MLLMs）拥有记忆和重新召回图像能力，介绍了一种基于生成式跨模态检索框架的方法，通过将图像存储在 MLLMs 中以实现记忆功能，并有效地进行跨模态检索。

    Feb, 2024

  • 重新审视跨模态检索

    本文提出了一种交叉模态检索系统，利用图像和文本编码，实现了同时检索模态的功能，避免了需要为每个模态使用不同网络的缺点。在所使用的知识中，本文是第一篇采用单一网络和融合的图像 - 文本嵌入进行跨模态检索的工作。在 MS-COCO 和 Flickr30K 两个著名的多模态数据集上对该方法进行了评估。

    Jul, 2018