- 大型语言模型与以文本为中心的多模态情感分析:调查
与传统情感分析相比,多模态情感分析需要同时考虑来自多模态源的情感信号,它更符合人类在现实场景中处理情感的方式。本文综述了近期文本为中心的多模态情感分析任务中的研究,审视了大型语言模型在文本为中心的多模态情感分析中的潜力、方法、优势和局限性, - RNG:降低多级噪音和多级语义差距以进行联合多模态方面情感分析
该研究提出了一种名为 RNG 的新型框架,通过设计三个约束来减少多层次的模态噪声和多粒度的语义差距,从而实现联合多模态的情感分析任务,该框架在两个数据集上展示出了最新的性能。
- 基于相关性解耦的多模态不完整情感分析知识蒸馏
我们提出了一个面对不确定缺失模态的多模态情感分析任务的相关解耦知识蒸馏(CorrKD)框架,通过样本级对比蒸馏机制和类别引导的原型蒸馏机制,重构缺失的语义,捕捉交叉类别相关性,并通过响应解耦和互信息最大化优化学生网络的情感决策边界,实验表明 - 多模态情感分析的协同情感代理
通过合作情感代理机制,我们提出了一种新的多模态表示学习(MRL)方法,用于多模态情感分析(MSA),通过模态 - 情感解缠(MSD)和深度相空间重构(DPSR)模块高效捕捉情感变化。通过精心设计的任务特定交互机制,我们展示了该方法在多模态情 - TCAN: 面向文本的跨模态关注网络用于多模态情感分析
多模态情感分析的研究中,我们引入了一个以文本为导向的交叉注意力网络(TCAN),强调文本在情感分析中的主导作用。通过对多模态样本进行自注意力和文本查询交叉注意力操作,我们减少了噪声信号和冗余特征的影响,并通过背向传播的方法实现了异质情感倾向 - 通过偏见净化实现多模态情感分析解偏
通过使用因果关系而非传统的似然方法,基于多模态情感分析(MSA)的多模式对比事实推断情感(MCIS)分析框架能够从具有有害偏见的观察中做出无偏决策,并有效地减轻数据集偏差的问题。
- 基于多模态基础模型的鲁棒多模态学习
提出了一种简单而有效的框架 TRML,即利用多模态基础模型进行鲁棒多模态学习,通过生成虚拟模态替代丢失模态,并对生成和丢失模态之间的语义空间进行对齐,从而捕捉缺失模态的语义。在完整模态的情况下,我们的模型通过利用交叉模态语义空间的对齐来捕捉 - 智慧:通过融合上下文世界知识来改进多模态情感分析
利用大型视觉语言模型(LVLMs)从上下文世界知识中获得增强的多模态情感分析的插件框架 WisdoM 的实验结果表明,在不同粒度的多模态情感分析任务中,我们的方法相比几种最先进的方法具有显著的改进(在五种先进方法中平均提高 1.89 F1 - 多模态情感分析中的遗漏模态:一种知识迁移方法
提出了一种新颖的知识传递网络来在不同的感知模式之间进行翻译以重构缺失的音频模式,并且采用了跨模态注意机制以保留重构和观察到的模态的最大信息,用于情感预测。通过对三个公开数据集进行大量实验证明,相较于基线方法实现了显著的改进,并在完全多模态监 - PowMix:多模态情感分析的多功能正则化方法
多模态情感分析中,引入了一种全面的正则化方法 PowMix,通过混合同模态和不同模态的组件,在融合阶段前促进模型性能提升,并且能有效改善基线模型和现有混合方法的性能。
- 提升多模态情感分析:基于受监督的角度边界对比学习的增强融合表征
通过引入一种名为监督角度对比学习的框架,以增强多模态表示的区分性和泛化性,克服了融合向量中的模态偏差,实验结果和对两个广泛使用数据集的可视化结果表明了我们的方法的有效性。
- 无监督图注意力自编码器用于带属性网络的 K 均值丢失
利用最新的转换器和特征提取工具构建阿拉伯语多模态数据集,验证其在多模态学习中的效果,并展示阿拉伯语多模态研究的潜力。
- 学习基于语言引导的自适应超模态表示用于多模态情感分析
通过利用多个信息源(如语言、视频和音频),多模态情感分析(MSA)证明了其有效性,但不同模态间可能存在情感不相关和冲突的信息,从而限制了进一步提高性能。为了缓解这个问题,我们提出了自适应语言引导的多模态 Transformer(ALMT), - MMUniSA: 统一情感分析的生成框架
通过引入任务特定提示方法和多模态生成框架 UniSA,我们提出了一种统一所有情感分析子任务的方法,并将主要子任务的基准数据集整理成了新的情感分析评估基准 SAEval。我们设计了新颖的预训练任务和训练方法,使模型能够在不同子任务中学习一般性 - 多模态情感分析中的多元特征利用
我们在 MuSe-Personalisation 子挑战赛中提出了一种解决方案,通过使用多模态情感分析来预测参与者的情绪和趣味连续值,并通过提取多样特征的方法建立了稳健的特征表达和模型集成,最终在此挑战中获得第三名的成绩。
- 多模态情感分析的一般去偏方法
通过减少模型对虚假相关性的依赖,我们提出了一个基于逆概率加权的通用去偏方法,以提升多模态情感分析模型的超出分布泛化能力。通过解耦每种模态的鲁棒特征和偏倚特征,并利用偏倚特征估计偏倚,我们使用逆概率加权来减少对大偏倚样本的影响,从而促进情感预 - ACL多模态情感分析中的对比知识注入
本研究提出了一种基于适配器架构、对每个模态进行特定知识注入的分层对比学习(ConKI)方法,以实现多模态情感分析,并在三个流行的多模态情感分析基准测试中表现优异。
- 面向阿拉伯语多模态情感分析数据集
本文主要研究了基于深度学习与多模态语料库的阿拉伯情感分析的数据集,通过使用最先进的 transformers 和特征提取工具来建立我们的阿拉伯多模态数据集,并使用 state-of-the-art 的 transformer-based m - 基于句法的混合提示模型用于少样本多模态情感分析
本文提出了一种混合模式的近似零样本多模态情感分析方法,结合手工提示和可学习提示,利用注意力机制优化提示编码器,在句子水平和方面水平数据集上取得了显著的性能优势。
- ACL利用互信息最大化进行视频多模态融合的降噪瓶颈
本论文提出了一种细粒度的视频多模态融合去噪模型(DBF),它使用了瓶颈机制来过滤噪声和冗余信息,并采用互信息最大化模块来调节过滤器以保留不同模态中的关键信息。实验表明,我们的 DBF 模型在多个基准测试中均取得了显着的改进效果,涵盖了多模态