AAAIMar, 2024

图像 - 文本检索的跨模态和单模态软标签对齐

PDF
TL;DR通过引入交叉模态和单模态软标签对齐 (CUSA) 方法，我们解决了图像 - 文本检索中的两个问题：模态间匹配缺失和模态内语义损失。实验证明，我们的方法可以提升图像 - 文本检索以及单模态检索的性能，达到新的最先进水平。
image-text retrievalinter-modal matchingintra-modal semantic losscross-modal and uni-modal soft-label alignmentstate-of-the-art results
发现论文，激发创造
  • 多级交叉模态对齐图像聚类

    我們提出了一種多層次跨模態對齊方法，通過在三個層次（即實例級別、原型級別和語義級別）建立一個更小但更好的語義空間，對跨模態預訓練模型中的對齊進行改進，以提高下游任務的性能。實驗結果清楚地表明了我們新方法的優越性。

    Jan, 2024

  • 基于多粒度跨模态对齐的开放词汇语义分割学习

    提出了一种多粒度跨模态对齐 (MGCA) 框架，通过在像素级、对象级和区域级学习对齐来解决现有方法在像素级预测和训练时的粒度差异问题，并采用硬采样策略促进精细的跨模态对比学习，进一步开发自适应语义单元来改善像素预测单元在下游分割中的缺陷。在 CC3M 数据集上进行训练后，该方法在性能上显著超过了现有的方法，验证了其有效性和高效性。

    Mar, 2024

  • 多模态语义理解与对比跨模态特征对齐

    本篇研究提出了一种基于 CLIP 引导的对比学习的架构，用于执行多模态特征对齐，将来自不同模态的特征投影到一个统一的深度空间，实验结果表明，我们提出的模型在多模态讽刺检测和多模态情感分析任务中明显优于多个基准模型，我们的特征对齐策略相对于其他聚合方法和甚至富含知识的模型也带来了明显的性能增益，此外，我们的模型实现简单，无需使用特定任务的外部知识，因此可以轻松迁移到其他多模态任务。

    Mar, 2024

  • 视频文本检索的统一粗细对齐

    通过联合考虑不同粒度的跨模态相似性，我们提出了一种统一的多粒度对齐模型 UCoFiA，显著优于以前的基于 CLIP 方法，在多个视频 - 文本检索基准上表现出了 2.4％，1.4％和 1.3％的文本到视频检索 R@1 改进。

    Sep, 2023

  • 保持语义领域对稳健跨模态检索的影响

    本篇研究提出了一种方法，使用特定的 loss 函数，在保持图像和文本子空间内的语义连贯性的同时鼓励它们之间的语义协同，并改进了基线模型，以实现跨模态检索。

    Jul, 2020

  • 跨模态系统是否利用语义关系？

    该论文提出一种新的语义相似度评估指标 SemanticMap 来评估跨模态检索系统的性能，并且提出了基于单流网络的新型跨模态检索系统，该系统使用深度神经网络训练，并在 MSCOCO 和 Flickr30K 数据集上进行了评估。

    Sep, 2019

  • 学习关系对准以进行校准的跨模态检索

    本论文提出一种新的 Intra-modal Self-attention Distance（ISD）度量方法和 Inter-modal Alignment on Intra-modal Self-attentions（IAIS）正则化训练方法，旨在通过 ISD 度量语言和视觉关系之间的语义距离并通过 IAIS 进行交叉训练，从而提高 Flickr30k 和 MS COCO 数据集中的跨模态检索性能。

    May, 2021

  • UNIMO：通过跨模态对比学习实现统一模态理解和生成

    本文介绍了一种名为 UNIMO 的统一单模态预训练架构，它可以有效地适应单模态和多模态理解和生成任务，利用大规模自由文本语料库和图像集合来提高视觉和文本理解的能力，并使用跨模态对比学习来将文本和视觉信息对齐到图像 - 文本对的统一语义空间。实验结果表明，UNIMO 显著改善了几个单模态和多模态下游任务的性能。

    Dec, 2020

  • 用于指涉图像分割的跨模态自注意力网络

    本文提出了一种跨模态自注意模块 (CMSA)，可以有效地捕捉语言和视觉特征之间的长距离依赖关系，并且采用门控多层融合模块，以选择性地集成不同级别的特征。在多个数据集上的验证表明，我们的方法在图像分割任务上显著优于现有的最先进的方法。

    Apr, 2019

  • 文本到图像检索的跨模态一致性

    本文提出了一种跨模态相依的一致性模型，用于提高现有联合理解模型的性能，结果展示出使用相依性理念的模型能够更好地检索与目标文本相关的图像，这对不同模态间的沟通及在捕获文本与图像常识推理中相依性关系的角色具有重要的研究意义。

    Sep, 2021