May, 2018

一分钟逐渐情感挑战的多模态情感识别

PDF
TL;DR本文介绍了我们在 One-Minute-Gradual 情感挑战中，通过提取从视频中用多种声学，视频和文本模型提取的多模态表示，并使用支持向量机（SVM）融合多模态信号进行最终权值预测，实现了 CCC 得分 0.397 和 0.520。这超过了最佳 CCC 得分 0.15 和 0.23 的基线系统。
发现论文，激发创造
  • 使用视觉、音频和文本特征进行多模态话语级情感分析

    本文介绍了一种利用 LSTM 结合口语音频和文本信息对多媒体剪辑中的情感进行识别的多模态神经架构，其优于单模态基线，并在唤起任务中达到了 0.400 的相关性系数和在价值任务中达到了 0.353 的相关系数。

    May, 2018

  • OMG-Emotion 行为数据集

    本文介绍了我们提出的多模态心情表达数据集，其中使用分层注释策略进行情感表达识别。使用自然连续的方式对 YouTube 视频进行收集，以构建一个公平标准的深度和递归神经模型实验协议。

    Mar, 2018

  • 基于声音视觉线索的情感唤醒 - 价值深度预测网络

    本文全面描述了我们参与 2018 年一分钟逐渐情感行为挑战的方法。

    May, 2018

  • 基于多 CNN 特征的 CNN-RNN 情感维度识别在 OMG 野外数据集上的应用

    本文利用 CNN-RNN 方法以及 OMG-Emotion 数据集，多模态特征提取，提出了情感识别的新思路，仅利用视觉模态的方法优于同时利用音频和视觉模态的现有技术，实验表明，低级特征结合高级特征可明显提高情感唤起度的识别。

    Oct, 2019

  • 在时间连续的多模态情感识别中容纳缺失的模态

    提出了一种基于 Transformer 的架构，用于识别情绪的正性和负性，即使输入模态缺失，该模型通过交叉关注和自关注机制强调模态之间的关系，提高了对弱显著输入的学习过程，并在 Ul-TSST 数据集上实验，与后期融合基准方法相比，预测唤醒值的一致性相关系数的评估提高了 37％，预测价值的一致性相关系数的评估提高了 30%。

    Nov, 2023

  • 多模态本地 - 全局排名融合情感识别

    研究了通过综合考虑人员独立和相对依赖角度进行情感识别的方法，该方法使用 Bayesian 排序算法推断全局相对情感排名，最终的情感识别是通过对直接预测和来自本地全局排序的相对情感排名的综合考虑而实现的。

    Aug, 2018

  • EmoNets: 多模深度学习方法用于视频情感识别

    本研究使用深度学习技术，以多模态方式，使用面部检测、音频流等模态，探索影片情感识别模型，成果在 2013 年的 EmotiW 挑战中成为获胜者，并在 2014 年的数据集上实现了约 47.67% 的准确率。

    Mar, 2015

  • 视频中多模态特征提取和基于注意力的融合情绪估计

    本文介绍了一个基于多模态的情感估计框架，通过提取比赛数据集中的不同长度的视频的多模态特征，包括音频、姿态和图像，确定情感趋势。该系统在验证数据集中达到 0.361 的性能。

    Mar, 2023

  • 多模态情感分析基准测试

    本研究通过卷积神经网络从文本、视觉等多个角度提取特征，实现了情感分析和情绪识别，并取得了 10% 的性能提升。同时，我们还探讨了在多模态情感分析研究中经常被忽视的若干重要问题，如讲话者无关模型和模态重要性等，从而为今后的研究提出了新的基准，并展示了在执行此类任务时需要考虑的不同方面分析。

    Jul, 2017

  • 野外视频情感分类的时间多模态融合

    本文通过使用卷积神经网络改进面部描述符，并探索多种融合方法，建立并优化 CNN 架构，解决情感分类问题，获得了 2017 年 “Emotion in the Wild” 挑战赛第四名的准确性，达到了 58.8％。

    Sep, 2017