基于大型视觉-语言模型的上下文感知情感识别
该研究介绍了一种基于深度网络的上下文感知情感识别方法,利用了人脸表情和场景上下文信息进行情感识别,并通过引入新的基准数据集CAER在多个基准测试中表现出了上下文对于情感识别的有效性。
Aug, 2019
本文提供了基于因果关系的视角来解决“上下文感知情感识别(CAER)”中的数据集中存在的偏见问题。通过构建因果图,设计了Contextual Causal Intervention Module (CCIM)来提高模型表现并且在三个基准数据集上进行了充分的实验来证明其有效性和重要性。
Mar, 2023
本研究探索大型语言模型 (LLMs) 在对话中识别人类情感方面的能力,重点关注开放领域闲聊对话和任务导向对话,并通过评估和比较 LLMs 在情感识别方面的性能,利用 IEMOCAP、EmoWOZ 和 DAIC-WOZ 三个不同数据集进行研究,从非零样本和少样本学习以及任务特定微调的角度探索 LLMs 的模型容量,并考虑了自动语音识别 (ASR) 错误对 LLM 预测的潜在影响。通过本研究,我们旨在阐明 LLMs 在对话中能够模拟人类情感识别能力的程度。
Sep, 2023
通过图像的标题生成以及使用大型语言模型(LLMs)进行推理的方法,该论文探讨了LLMs是否可以支持上下文情感估计任务,并表明GPT-3.5模型在情感预测方面具有潜力。
Sep, 2023
该研究开发了小型视觉语言模型,旨在通过情感建模和输入输出特征对齐,识别视觉艺术作品的情感类别并解释预测结果,实验证明该模型在理解视觉艺术方面的性能明显优于基准模型。
Mar, 2024
我们的研究通过设计实验和提出度量方法,明确量化了LLMs在情绪识别中的先验一致性以及其对后验的影响。结果显示,LLMs在情绪识别中存在强烈但不一致的先验,导致预测表现固化。同时,研究还发现模型越大,这种影响越强。因此,在情感为中心的任务中,尤其是在超出预训练范围以及解释ICL结果时,需要谨慎使用较大规模的LLMs。
Mar, 2024
利用视觉和大规模语言模型(VLLMs)的开创性能力,我们提出了一种两阶段方法来增强上下文情绪分类,首先利用VLLMs生成自然语言描述主体与视觉情境之间的明显情绪,然后将这些描述与图像输入一起用于训练融合文本和视觉特征的基于变换器的结构,在不引入复杂训练方法的情况下显著优于单一模态,并且在EMOTIC、CAER-S和BoLD三个数据集上达到了与更复杂方法相媲美甚至更高的准确性。
Apr, 2024
在这篇研究论文中,我们使用最近的大型视觉语言模型来探讨两种主要方法:图像字幕生成与仅使用语言的LLM,以及零样本和微调设置下的视觉语言模型。我们在Emotions in Context(EMOTIC)数据集上评估这些方法,并展示出即使在小型数据集上进行微调,视觉语言模型的性能也能显著超过传统的基准方法。我们的研究结果旨在帮助未来的机器人和智能系统对情感进行敏感的决策和交互行为。
May, 2024
通过原型理论的视角,本文识别了上下文学习(ICL)在细粒度情绪识别上表现不佳的原因,并提出了一种解决此问题的方法——Emotion Context Learning(E-ICL)。该方法通过使用更准确的原型并参考情感相似的示例来预测情绪类别,并采用排除性情感预测策略以避免干扰,从而提高了准确性和稳健性。在多个数据集上的实验证明,E-ICL达到了优秀的情绪预测性能,并且即使所使用的情感辅助模型低于LLMs的10%,E-ICL仍然能够提高LLMs的性能超过4%。
Jun, 2024
通过使用上下文感知情绪识别(CAER)方法解决数据集中的上下文偏差问题,利用因果推理和定制化因果图来消除干扰变量,在模型训练中使用基于反向推理校正理论的Contextual Causal Intervention Module(CCIM)实现近似因果效应,并通过实验证明CCIM的有效性。
Jul, 2024