MMOct, 2020

面向目标导向视觉对话的答案驱动视觉状态估计器

PDF
TL;DR本文提出了一种基于答案驱动的视觉状态估计器，用于目标视觉内容的更新和问题生成，并在 GuessWhat?! 数据集上完成了问题生成和猜测任务，获得了最先进的表现。
goal-oriented visual dialogueanswer-driven visual state estimatorconditional visual information fusionquestion generatorguesser tasks
发现论文，激发创造
  • 视觉对话状态跟踪及其应用于问题生成

    该论文提出了一种基于视觉对话状态跟踪（VDST）的方法，用于生成关于图片中目标的问题，该方法将对话状态表示和跟踪作为重点。该方法利用分布和对象差异注意力等特征来生成问题，并通过 GuessWhat！数据集的实验结果证明其在减少重复问题等方面的表现明显优于先前的最先进方法。

    Nov, 2019

  • 通过数据增强的问答方法进行多模态对话状态跟踪

    文章提出了一个基于多模态融合和注意力机制的开放域问答系统，用于解决 Audio-Video Scene-Aware Dialogue（AVSD）任务，结果表明基于问答假设的数据增广技术和模型均能在 DSTC7-AVSD 数据集上带来显著的改进。

    Jul, 2020

  • 基于反应式多阶段特征融合的多模态对话建模

    本文提出了一种直观的机制，通过多个阶段融合特征和注意力以很好地集成多模式特征，以解决音频视觉场景感知对话任务，并进一步分析了各种最先进的模型在该任务上的泛化能力。

    Aug, 2019

  • 问者心中的回答者：面向目标的视觉对话的信息论方法

    本研究提出了一种新的信息理论策略： 基于该策略的 AQM 模型能有效地处理面向目标的对话任务， 尤其是在问答者句子序列学习方面的复杂性，与其他相比，经验证明 AQm 更胜一筹。

    Feb, 2018

  • 面向视觉问答的聚焦动态注意力模型

    本文提出了一种基于 Focused Dynamic Attention 模型的视觉问答方法，该方法通过结合全局特征和重点区域信息，能够更好地处理细粒度信息和语言语义，进而提高了视觉问答的表现。

    Apr, 2016

  • DualVD：一种用于视觉对话中深度视觉理解的自适应双编码模型

    该研究提出了一种新的模型来从视觉和语义两个角度描述图像，在多角度图像特征的基础上提出了特征选择框架，逐层适应性地捕捉问题相关信息，并在基准视觉对话数据集上取得了最先进的结果。更重要的是，通过可视化门控值，我们能够确定视觉和语义哪个模式在回答当前问题中发挥更重要的作用，为我们理解人类认知在视觉对话中的作用提供了见解。

    Nov, 2019

  • 通过实体为基础的策略学习和增强猜测器来增强视觉对话问答系统

    在 Q-Bot-A-Bot 图像猜测游戏设置下，利用强化学习与监督学习等方式构建一个关于视觉对话问题的相关实体增强问答系统 (ReeQ) 和基于增强学习的可靠游戏者 (AugG)，这一方案在 VisDial v1.0 数据集上达到了最佳表现，能够提供更多视觉相关、丰富和连贯的问题。

    Sep, 2021

  • 基于图片 - 问题 - 答案协同的视觉对话网络

    本研究提出了一种图像 - 问题 - 答案协同网络来评估答案的作用，该网络将传统的一阶段解决方案扩展为两个阶段，并在 Visual Dialog v1.0 数据集中取得了最新的最高成果。

    Feb, 2019

  • 多模态基于注意力机制视频特征的端到端视听场景感知对话

    该论文介绍了一种新的视频场景感知对话系统，该系统将多个研究领域的最新技术整合应用 ，包括端到端的对话技术、视觉问答技术，以及视频描述技术。通过收集一个有关人类行为视频的对话数据集，作者们使用该数据集训练出一种多模态对话模型，它可以在对视频进行讨论时生成响应。最终实验结果表明，使用为多模态注意力视频描述开发的多模态特征可以提高对于动态场景（视频）生成对话的质量。

    Jun, 2018

  • 通过自适应推理和加权似然估计的生成式视觉对话系统

    本文提出了一种新的训练方案，结合加权最大似然估计方法，解决视觉对话系统中基于最大似然估计方法学习正例回答而忽略负面回答导致响应过于安全或普遍的问题。此外，作者还设计了自适应多模态推理模块，自动适应不同的对话场景并选择相关信息，实验结果证明了他们的算法在 recall@10 上的优越性。

    Feb, 2019