AAAIFeb, 2018

人类交流理解的多注意力循环网络

PDF
TL;DR本文介绍了一种名为多注意力循环网络（MARN）的人类交流理解神经架构，通过使用多注意力块（MAB）的神经组件，MARN 致力于发现和存储影响人际交往的互动，并在多模态情感分析、说话者特质识别和情感识别方面显示出最先进的性能。
face-to-face communicationmultimodal signalartificial intelligencemarnmultimodal sentiment analysis
发现论文，激发创造
  • 基于记忆注意力的循环神经网络用于视频字幕生成

    提出了一种记忆注意力循环网络用于视频字幕生成，可以在训练数据中探索词与其各种类似视觉上下文的全谱对应关系，从而实现对每个单词的更全面理解，并提高字幕生成质量。

    May, 2019

  • 循环多阶融合的多模态语言分析

    本研究提出了一种名为 RMFN 的循环多阶段融合网络，该网络以多元信号为输入，通过多个阶段递归地融合特定的信号子集，结合了循环神经网络以建模时间和模态内交互、建模跨模态交互。经实验证明，RMFN 在情感分析、情感识别和说话人特征识别等多模态任务上可以达到最先进的性能，并通过可视化方法证明了每个融合阶段都集中于不同的多模态信号子集上。

    Aug, 2018

  • 用于提升机器理解口语内容的分层注意力模型

    提出了一项新的任务 —— 自动理解口语内容，本文通过构造多层注意力机制的分层注意力模型（HAM）来提高自动理解口语内容任务的表现，并且通过考虑树状结构而不是顺序结构的表示方法，使得模型对 ASR 错误更加鲁棒。

    Aug, 2016

  • 展示、关注和互动：通过神经关注 Q 网络实现可感知的人机社交互动

    通过多模式深度关注循环 Q 网络，机器人在与人交互 14 天后表现出类似人的社交互动技能，同时学会了以可感知和社交接受的方式响应复杂的人类行为。

    Feb, 2017

  • 情感维度识别中的递归跨模态注意力的多模态融合

    通过跨模态注意力和时间卷积网络，提出了一种用于多模态情感识别的模型，能够有效地捕捉不同模态之间的互补关系，并在赛事中实现显著改进。

    Mar, 2024

  • 一种融合全局 - 局部感知的双流重复 - 注意力网络，用于情感识别的文本对话

    本文提出一种基于双重 RNN 和多头注意力网络（MAT）的直观双流递归关注网络（DualRAN），该模型旨在解决情感对话（ERC）任务中建模上下文的难题，能够更有效地捕获全局和局部背景信息。实验结果表明 DualRAN 模型优于所有基线，并且每个组件的有效性得到了深入的证明。

    Jul, 2023

  • 一种面对面的神经对话模型

    我们提出了一个新的神经会话模型，其不仅读取和生成文本信息，还能够识别和生成面部表情，以及基于对话中的情绪适应其响应。该模型采用 RNN 编码器 - 解码器架构，通过观察电影进行训练，并通过自动度量和人类研究展示了其生成更自然对话的能力。

    Dec, 2018

  • 多模式统一关注网络用于视觉语言交互

    本研究提出了一种统一的注意力模型，能够同时捕捉多模态特征的内部和跨模态之间的相互作用，并输出相应的注意力表示。通过堆叠这样的统一注意力块，我们获得了深度多模态统一注意力网络 (MUAN)，可以无缝地应用于视觉问答 (VQA) 和视觉定位任务。通过在两个 VQA 数据集和三个视觉定位数据集上评估 MUAN 模型，结果表明 MUAN 在两个任务上都实现了顶级性能。

    Aug, 2019

  • 创建面对面多模式人机交互的语言学和计算要求

    本研究通过对人与虚拟人物互动对话进行语言学、组织结构及结构分析，提出了为机器创建面对面多模态界面的必要性，并观察了多模态动作和事件的分布，数据表明需要在多模态融合层之外增加一个控制层来组织会话流、集成社会背景以及拟定进展计划，需要将会话分析、认知科学和心智理论等内容融入到界面系统中。

    Nov, 2022

  • 面向场景感知对话系统的多步骤多模态注意力网络

    本文提出了一种基于循环神经网络的多步关注机制的多模态联合注意网络（JMAN），用于对视频进行推理，该模型在每个推理过程中联合考虑了视觉和文本表示，以更好地集成两种不同模态的信息。与 AVSD 组织发布的基线相比，我们的模型在 ROUGE-L 得分和 CIDEr 得分上相对提高了 12.1％和 22.4％。

    Jan, 2020