Mar, 2024

具有 CLIP 的鲁棒轻量级面部情感行为识别

PDF
TL;DR人类情感行为分析的研究旨在深入了解人类情绪，其中表情分类、动作单位是其两个主要组成部分。本研究提出了一种轻量级框架，可以高效地处理表情分类和动作单位检测，通过采用冻结的 CLIP 图像编码器和可训练的多层感知机（MLP），以 CVaR 提升稳健性，并采用损失函数平滑策略来改进泛化性能，在 Aff-wild2 数据集上得到了优越的性能表现，同时保持了最小的计算需求，提供了一种实用的情感行为分析解决方案。
human affective behavior analysisexpression classificationau detectionlightweight frameworkaff-wild2 dataset
发现论文，激发创造
  • 一种多模态和多任务学习方法，用于动作单元和表情识别

    本文提出一种利用视觉和音频信息的多模态和多任务学习方法来分析人类情感，使用 AU 和表情标注训练模型并应用序列模型提取视频帧之间的关联，实现了 0.712 的 AU 分数和 0.477 的表情分数，证明了该方法在提高模型性能方面的有效性。

    Jul, 2021

  • 基于 Transformer 的多模态信息融合用于面部表情分析

    本研究介绍了一种基于多模态特征和 Transformer 的统一框架，用于情感行为分析和表情识别任务，同时运用数据平衡和增强方法进一步提高模型性能。实验证明，该方法在 ABAW3 竞赛中在 EXPR 和 AU 方面排名第一。

    Mar, 2022

  • 一种多任务学习与生成框架：情感价值 - 唤起度、动作单位和基本表情

    本论文针对情感分析的各个领域进行了研究，提出了基于神经网络的多任务学习方法，该方法有效地应用于 Aff-Wild 情感数据库的新注释部分并实现了良好的性能。

    Nov, 2018

  • 野外情感分析：愉悦度 - 唤起度、表情、动作单元和统一框架

    本文介绍了利用深度学习方法对情感进行分析与识别的相关研究，以及在真实情境下（in-the-wild）数据上进行大规模情感分析所需深度神经网络的架构设计，并提出了一种基于多任务学习和整体框架的方法，通过改进现有的情感识别技术来提高情感识别效果。

    Mar, 2021

  • 移动设备人脸表情、价值、唤起和动作单元的帧级预测

    本文提出了一种基于单个预训练 AffectNet 的 EfficientNet 模型提取面部特征的新颖的帧级情感识别算法，可以实现移动设备上的实时视频人脸情感分析，在第三届野外情感行为分析（ABAW）竞赛的大规模 Aff-Wild2 数据集上，与 VggFace 基线相比，我们的简单模型在单任务表情分类、趋势 - 觉醒估计和表情分类的验证集中的性能指标高 0.15-0.2，由于简单性，我们的方法可以被视为四个子挑战的新基准。

    Mar, 2022

  • 面部行动单元检测的全局到局部表情感知嵌入

    本文提出了一种用于促进 AU 检测的新型细粒度全局表情表示编码器以及设计了用于为每个 AU 生成本地面部特征的本地 AU 特征模块。实验结果表明，我们的方法优于现有方法并在 BP4D、DISFA 和 BP4D + 等广泛使用的面部数据集上实现了最先进的性能。

    Oct, 2022

  • 面部动作单元强度估计的深度结构化学习

    本文提出一种基于条件随机场的 Copula CNN 深度学习方法，用于模型化面部表情中的多变量有序变量的结构，并从中提取出复杂的特征表达。通过在新引进的均衡批量迭代训练算法和深度 CNN 特征编码层中联合优化这些 CLIQUES，显著提高了面部表情分析性能。

    Apr, 2017

  • LibreFace: 深度面部表情分析的开源工具包

    通过使用深度学习模型和开源工具 LibreFace，我们能够实现面部表情分析，从而有效和准确地分析面部表情，并实现实时交互应用。

    Aug, 2023

  • 面部动作单元识别的深层结构推理网络

    本文提出了一种基于深度神经网络的面部表情识别算法，通过学习局部和全局特征，以及类似于图推理方法的消息传递算法，显著提高了在 BP4D 和 DISFA 数据集上的表现。

    Mar, 2018

  • 通过整合多模态知识进行情感行为分析

    通过利用各种数据集和方法设计，我们可以在自然环境中全面评估情感行为分析技术的真实性和适用性，从而实现情感智能技术，使设备能像人类一样理解和反应我们的情感。

    Mar, 2024