AAAIJan, 2020

面向场景感知对话系统的多步骤多模态注意力网络

PDF
TL;DR本文提出了一种基于循环神经网络的多步关注机制的多模态联合注意网络（JMAN），用于对视频进行推理，该模型在每个推理过程中联合考虑了视觉和文本表示，以更好地集成两种不同模态的信息。与 AVSD 组织发布的基线相比，我们的模型在 ROUGE-L 得分和 CIDEr 得分上相对提高了 12.1％和 22.4％。
multimodal dialogue systemsaudio visual scene-aware dialogjoint-modality attention networkvisual and textual representationsrouge-l score
发现论文，激发创造
  • 多模态基于注意力机制视频特征的端到端视听场景感知对话

    该论文介绍了一种新的视频场景感知对话系统，该系统将多个研究领域的最新技术整合应用 ，包括端到端的对话技术、视觉问答技术，以及视频描述技术。通过收集一个有关人类行为视频的对话数据集，作者们使用该数据集训练出一种多模态对话模型，它可以在对视频进行讨论时生成响应。最终实验结果表明，使用为多模态注意力视频描述开发的多模态特征可以提高对于动态场景（视频）生成对话的质量。

    Jun, 2018

  • 基于反应式多阶段特征融合的多模态对话建模

    本文提出了一种直观的机制，通过多个阶段融合特征和注意力以很好地集成多模式特征，以解决音频视觉场景感知对话任务，并进一步分析了各种最先进的模型在该任务上的泛化能力。

    Aug, 2019

  • DSTC8 AVSD 挑战赛的多模态指针网络 Transformer

    使用点积注意力结合文本和非文本特征的输入视频信息以及采用多源序列的指针网络来增强生成对话代理能力，从而在自动度量中取得高性能，在人类评估中获得第五和第六名。

    Feb, 2020

  • 基于熵增强的多模态注意力模型用于场景感知对话生成

    本研究提出了熵增强动态内存网络 (DMN) 以有效地对视频模态建模，并应用基于注意力的 GRU 来提高模型理解和记忆序列信息的能力，从而生成对于视频问答问题精确的回答。在官方评估中，我们的系统在主观和客观评估指标上均能实现比已发布的基准模型更好的性能。

    Aug, 2019

  • 使用视听 Transformer 进行场景感知对话和推理，并进行联合师生学习

    本文介绍了第三个 AVSD 挑战赛，其包括时间推理的任务和新的数据集，在这个数据集中，人类生成了时间推理数据。文章提出了基于 AV-transformer 的基线系统，并通过注意力多模态融合、联合师生学习和模型组合技术扩展了基线系统，提高了 AVSD 数据集的性能，同时提出了两种 AVSD 的时间推理方法：一种是基于注意力的，一种是基于时间域的区域建议网络。

    Oct, 2021

  • 从 FiLM 到视频：多模态背景下的多轮问答

    通过 AVSD 挑战，本文提出了一种层次化编码 - 解码模型来回答有关视频的问题，采用预训练的 I3D 和 VGGish 模型计算视频及音频帧的语义特征，并使用 FiLM 块进行条件编码以降低维数，最终使用 LSTM 解码器通过计划采样进行训练和束搜索进行评估，相比于 AVSD 挑战组织者发布的模态融合基准模型，我们的模型实现了超过 16％的相对改善，得分为 0.36 BLEU -4，超过 33％的得分为 0.997 CIDEr。

    Dec, 2018

  • 通过数据增强的问答方法进行多模态对话状态跟踪

    文章提出了一个基于多模态融合和注意力机制的开放域问答系统，用于解决 Audio-Video Scene-Aware Dialogue（AVSD）任务，结果表明基于问答假设的数据增广技术和模型均能在 DSTC7-AVSD 数据集上带来显著的改进。

    Jul, 2020

  • 探索上下文、注意力和音频特征用于音频视觉场景感知对话

    本论文探讨了以话题作为对话背景，利用多模态注意力和音视频定位技术的方法来构建端到端的自然语言对话系统，结合使用 end-to-end 音频分类卷积神经网络 AclNet，以音视频场景感知任务数据集 AVSD 进行测试，并提出了改进方案算法，优于现有基线系统。

    Dec, 2019

  • 文本和视频的桥梁：用于视频音频场景感知对话的通用多模态 Transformer

    该研究提出了一种通用的多模态转换器，并引入了多任务学习的方法，以解决视频聊天中的音视频场景感知对话生成任务，并将自然语言生成预训练模型扩展到多模态对话生成任务。我们的系统在该挑战中取得了最佳表现。

    Feb, 2020

  • DSTC8-AVSD：多模态语义 Transformer 网络及检索式词汇生成器

    提出了一种多模态语义变形器网络，基于注意力词嵌入层的变形器架构和查询单词嵌入层生成单词。该模型在 AVSD 任务中取得了优异的表现。

    Apr, 2020