May, 2024

CofiPara：一种用于大规模多模态模型的粗糙 - 精细范式的多模态讽刺目标识别方法

PDF
TL;DR本文提出了一个多模态讽刺目标识别框架，采用从粗到细的方法，通过推理和预训练知识增强讽刺可解释性，在多模态讽刺中揭示复杂目标并减轻大型多模态模型潜在噪声的负面影响。实验结果表明，我们的模型在 MSTI 方法上表现出色，并在识别讽刺方面具有解释性。
发现论文，激发创造
  • 多模态讽刺检测：基于分层一致性建模与知识增强的研究

    本文提出了一种基于层次结构的检测方法，通过多头交叉注意力机制和图神经网络同时探索文本和图像之间的原子级一致性和组成级一致性，利用丰富的外部知识资源进行讽刺检测，评估结果表明该模型优于现有的技术。

    Oct, 2022

  • 好香的香水。你泡在里面泡了多久？多模态的讽刺解释

    该论文提出了一个新的问题：多模态讽刺解释（MuSE），旨在针对一个带有图像和标题的多模态讽刺贴文，生成自然语言解释以揭示意图的讽刺。通过使用一个跨模态注意力的 Transformer 编码器，并使用 BART 的自回归解码器作为生成器，该论文提供了一个 Multimodal 讽刺解释数据集，并以各种基线进行了实证结果评估。

    Dec, 2021

  • DocMSU: 文档级多模态讽刺理解的综合性基准

    本研究提出了一个用于文档级多模式讽刺理解的全面基准测试，并引入了细粒度的讽刺理解方法，有效地将图像特征与文本特征在文档中进行对齐，实验证明该方法可以作为具有挑战性的 DocMSU 的基线方法。

    Dec, 2023

  • 多模态讽刺检测（一篇_显然_完美的论文）

    本文提出了一个基于多模态线索的新的讽刺数据集 (MUStARD)，并且证明了将多模态信息应用于讽刺检测可以将相对误差率降低高达 12.9%。

    Jun, 2019

  • MMSD2.0: 面向可靠多模态讽刺检测系统

    介绍了 MMSD2.0 数据集用于多模态讽刺检测问题，引入了利用多视角（文本、图像、文本图像交互视角）的多粒度线索的新框架 multi-view CLIP，实验证明 MMSD2.0 是构建可靠的多模态讽刺检测系统的有价值的基准，可以显著优于以前的最佳基准线。

    Jul, 2023

  • 多源语义图基础的多模态讽刺解释生成

    该研究提出了一种名为 TEAM 的新的、基于多源语义图的多模态讽刺解释方案，从输入图像中提取对象级语义元数据，使用 ConceptNet 获取外部相关知识概念，并引入多源语义图来全面描述多源语义关系，以促进讽刺推理。

    Jun, 2023

  • 用对比学习消除多模态讽刺检测中的偏见

    通过引入反事实数据增强和对抗学习的方式，本研究提出了一种新颖的去偏置多模态讽刺检测框架，旨在提高模型的鲁棒性和抑制有偏词语的不良影响，大量实验证明了该框架的卓越性能。

    Dec, 2023

  • 多模态社交平台中的讽刺检测

    分析社交媒体上多模态信息中，表面情感和隐含情感之间的关系，探究图像在人类注释中的必要性，并提出了两种不同的计算框架来检测其中的讽刺色彩。结果表明，结合多模态信息的检测方法在各平台上均取得了良好的效果。

    Aug, 2016

  • 混合语言对话中的多模态讽刺检测和幽默分类

    本研究开发了一个多模态的印地语 - 英语混合数据集用于会话中的多模态讽刺检测和幽默分类，并提出了一种新的基于注意力机制的神经架构 MSH-COMICS，该模型在两个任务中都具有优越性能。

    May, 2021

  • 多模多方对话中的讽刺解释

    本文提出了一项新的任务 —— 对话中的讽刺解释，并针对多模态和混合编码的情境，提出了一种多模态上下文感知的关注和全局信息融合模块 MAF 来捕捉多模态，并使用其来支持我们的任务。

    Mar, 2022