Jul, 2021

一种多模态和多任务学习方法，用于动作单元和表情识别

PDF
TL;DR本文提出一种利用视觉和音频信息的多模态和多任务学习方法来分析人类情感，使用 AU 和表情标注训练模型并应用序列模型提取视频帧之间的关联，实现了 0.712 的 AU 分数和 0.477 的表情分数，证明了该方法在提高模型性能方面的有效性。
affective behavior analysismulti-modal learningmulti-task learningau scoreexpression score
发现论文，激发创造
  • 基于 Transformer 的多模态信息融合用于面部表情分析

    本研究介绍了一种基于多模态特征和 Transformer 的统一框架，用于情感行为分析和表情识别任务，同时运用数据平衡和增强方法进一步提高模型性能。实验证明，该方法在 ABAW3 竞赛中在 EXPR 和 AU 方面排名第一。

    Mar, 2022

  • ABAW: 情感价值评估、表情识别、动作单元检测和多任务学习挑战

    本文介绍了第三届 ABAW 竞赛，该竞赛以自动情感分析为目标，并包括四个挑战：单任务价值 - 唤醒估计、单任务表情分类、单任务动作单元检测和多任务学习。在此基础上，我们概述了竞赛数据集、评估指标及基准系统。

    Feb, 2022

  • 野外双流感性音视频分析

    本文介绍了我们提交到 ABAW 2020 竞赛的两条流声音视觉分析模型来识别视频中的情感行为。该模型分别处理音频和图像流，并使用卷积神经网络进行分析，同时使用人脸对齐期间提取的附加功能。在训练期间，利用不同情感表达之间的相关性来提高性能。通过在 Aff-Wild2 数据库上的实验，我们的模型取得了有希望的结果。

    Feb, 2020

  • 通过整合多模态知识进行情感行为分析

    通过利用各种数据集和方法设计，我们可以在自然环境中全面评估情感行为分析技术的真实性和适用性，从而实现情感智能技术，使设备能像人类一样理解和反应我们的情感。

    Mar, 2024

  • 第二届 ABAW2 比赛中用于多任务情感识别的先前辅助流网络

    该研究提出了一种利用多任务流网络和先进面部表情嵌入的方法，在面对不同的情感表示时，有效地进行情感自动识别。

    Jul, 2021

  • ABAW：情感价值 - 唤醒评估，表情识别，行为单位检测和情感反应强度评估挑战

    本文介绍了于 CVPR 2023 会议举办的第五届 Affective Behavior Analysis in-the-wild (ABAW) Competition，其中包括四个挑战，使用了两个数据集，分别是 Aff-Wild2 database 和 Hume-Reaction dataset，这些挑战包括单任务的情感估计、表情分类、动作单位检测和情绪反应强度估计。

    Mar, 2023

  • ABAW4 多任务挑战的双方面信息融合模型

    本研究提出了一个新颖的端到端架构，以实现不同类型信息的全面集成来解决情感行为分析中的多任务学习挑战，实验结果表明我们的方法是有效的。

    Jul, 2022

  • 第六届野外情感行为分析（ABAW）竞赛

    本文介绍了第六届野外情感行为分析 (Affect Behavior Analysis in-the-wild, ABAW) 竞赛，该竞赛是 IEEE CVPR 2024 大会举办的研讨会的一部分。该竞赛致力于理解人类情感和行为等当代挑战，对人类中心技术的发展至关重要。具体来说，竞赛关注情感相关的基准任务，包括估计两个连续情感维度（情感价值和唤醒度）、识别七种基本表情和其他表情、检测 12 个动作单元、识别七种互斥复合表情以及估计六个连续情感维度的情感模仿强度。本文介绍了这些挑战，描述了相应的数据集和挑战协议（包括评估指标），并呈现了基准系统及其表现结果。竞赛的更多信息可在 https://affective-behavior-analysis-in-the-wild.github.io/6th 上找到。

    Feb, 2024

  • ABAW: 从合成数据和多任务学习挑战中学习

    本篇论文介绍了在 2022 年欧洲计算机视觉会议 (ECCV) 期间举办的第四届情感行为分析比赛 (ABAW)。今年该比赛涵盖了两个不同的挑战：多任务学习和从合成数据学习，目标在于基于 Aff-Wild2 数据库自动分析情感表达，其中该数据库是一个大规模的野外数据库，具备对价值、唤醒度、表情和动作单位的注释，并通过 s-Aff-Wild2 数据库和人工合成数据集完成了情感识别的基础研究。

    Jul, 2022

  • SUN 团队在 ABAW 2024 竞赛中的贡献：音频视觉的情感倾向与表达识别

    通过调查音频和视觉深度学习方法，为非控制环境中的情绪识别问题提供有效的体系结构。使用基于微调的卷积神经网络（CNN）和公共维度情绪模型（PDEM）进行视频和音频模态的比较，并使用这些多阶段训练的模态特定的深度神经网络（DNN）的嵌入来比较替代的时间建模和融合策略。在 ABAW'24 挑战协议下，对 AffWild2 数据集进行了结果报告。

    Mar, 2024