Aug, 2018

用学习的语义模型改善从图像中提取信息

PDF
TL;DR本研究回顾了视觉模型和统计语义先验模型相结合对图像与场景描述匹配的任务的改进，并将其与一种新颖的无明确训练视觉先验模型的条件多路模型进行比较。同时，我们还讨论了提出方法与人脑记忆模型之间的潜在关系。
visual modelsemantic prior modelvisual relationship detectionmemory modelshuman brain
发现论文，激发创造
  • 使用场景描述的语义建模改进视觉关系检测

    通过将语义模型与视觉统计模型相结合，并应用多种先进的链接预测方法，本研究证明链接预测方法可以提高对于视觉关系检测的结果，并在 Stanford Visual Relationship 数据集上取得了优于当今最先进方法的性能。

    Sep, 2018

  • 理解、分类和预测语义图像 - 文本关系

    本文借鉴视觉传达研究，探究了多模式信息检索的有用语义图像 - 文本关系，在自动收集和扩充数据资源的基础上，采用深度学习系统和三种度量标准（跨模态互信息、语义相关性和图像与文本的状态关系）对八种语义图像 - 文本类别进行了预测，并在一个严格的测试集上展示了该方法的可行性。

    Jun, 2019

  • 基于先验知识对语义图像解释中的监督不完整性进行补偿

    本研究提出了一种基于逻辑张量网络的零样本学习方法，利用背景知识和与其他已知关系的相似性来推断在训练集中不存在的三元组 (主语，谓语，宾语)，并在视觉关系数据集上实现了更好的性能表现。

    Oct, 2019

  • 探索语义关系的非配对图像字幕生成

    本文提出了一种跨越视觉和语言领域的高级语义信息桥接技术，以实现无配对图像说明，并引入了基于语义概念关系探索的解决方案 ——Semantic Relationship Explorer，能够有效地提高图像说明的质量，并且在 MSCOCO 数据集下总体得分比配对数据集高出 8%。

    Jun, 2021

  • 用汇聚方法建模空间关系，实现图像检索和注释

    通过学习参数，提出一种基于池化的空间关系表示的方法，以改进涉及空间语言的图像检索和注释任务，并在两个数据集和两个不同任务上取得了改进

    Nov, 2014

  • 图像 - 文本匹配的视觉语义推理

    我们提出了一种简单而易于解释的推理模型，用于生成全局场景的主要对象和语义概念的可视化表示，该模型使用图卷积网络进行关联和推理，再使用门和记忆机制进行全局语义推理，选取判别信息并逐渐生成整个场景的表示；实验证明我们的方法在 MS-COCO 和 Flickr30K 数据集上取得了相对于最佳方法分别为 6.8％和 4.8％的图像检索和字幕检索的新的最佳效果，Flickr30K 数据集上分别提高了 12.6％和 5.8％的图像检索和字幕检索。

    Sep, 2019

  • 关于图像对于视觉增强关系抽取作用的分析

    本研究对视觉场景图的不准确信息对多模态关系提取的影响进行了分析，提出了一种基于 Transformer 的隐式精细多模态对齐的强基准方法，并通过实验表明了该方法的优越性。

    Nov, 2022

  • 使用知识引导辅助描述包含新型物体的自然图像

    提出一种使用知识库指导的、包括多个抽象概念的多实体标签图像识别模型，在描绘描绘未知 / 新物体的图像生成模型中，利用第一步预测的抽象概念作为外部语义关注和约束推理的依据，以处理野外图像中的抽象概念，对 MSCOCO 数据集进行了实验验证，结果显示出了优于以前大部分工作的性能，并可用于知识和视觉的通用集成。

    Oct, 2017

  • 通过语言表达视觉关系

    该研究利用编码器 - 解码器结构和关系注意力等特征，提出了一种新的在两个图像之间生成关系说明的模型，并透过对新收集及公开的数据集进行实验，证明其比现有的各种基准线和方法都要好。

    Jun, 2019

  • 通过保留视觉主要语义实现图像文本检索

    本文提出了一种语义优化方法，称为视觉语义损失（VSL），以辅助模型专注于图像的主要内容，通过对图像的注释文本的利用，减少次要内容的负面影响，通过两个基准数据集（MSCOCO 和 Flickr30K）的大量实验，证明了该方法的卓越性能。

    Apr, 2023