AAAIDec, 2021

好香的香水。你泡在里面泡了多久？多模态的讽刺解释

PDF
TL;DR该论文提出了一个新的问题：多模态讽刺解释（MuSE），旨在针对一个带有图像和标题的多模态讽刺贴文，生成自然语言解释以揭示意图的讽刺。通过使用一个跨模态注意力的 Transformer 编码器，并使用 BART 的自回归解码器作为生成器，该论文提供了一个 Multimodal 讽刺解释数据集，并以各种基线进行了实证结果评估。
发现论文，激发创造
  • 多模多方对话中的讽刺解释

    本文提出了一项新的任务 —— 对话中的讽刺解释，并针对多模态和混合编码的情境，提出了一种多模态上下文感知的关注和全局信息融合模块 MAF 来捕捉多模态，并使用其来支持我们的任务。

    Mar, 2022

  • 在多模态对话中解释（讽刺性）话语以提高情感理解能力

    本文介绍了使用 MOSES 模型对于含有讽刺言语的对话进行 Sarcasm Explanation，以及在此基础上实现的 Sarcasm detection, humour identification, 和 emotion recognition 等自然语言理解任务，并且通过各种评估指标展示了该模型的优越性。

    Nov, 2022

  • 多模态社交平台中的讽刺检测

    分析社交媒体上多模态信息中，表面情感和隐含情感之间的关系，探究图像在人类注释中的必要性，并提出了两种不同的计算框架来检测其中的讽刺色彩。结果表明，结合多模态信息的检测方法在各平台上均取得了良好的效果。

    Aug, 2016

  • 多模态讽刺检测（一篇_显然_完美的论文）

    本文提出了一个基于多模态线索的新的讽刺数据集 (MUStARD)，并且证明了将多模态信息应用于讽刺检测可以将相对误差率降低高达 12.9%。

    Jun, 2019

  • 多源语义图基础的多模态讽刺解释生成

    该研究提出了一种名为 TEAM 的新的、基于多源语义图的多模态讽刺解释方案，从输入图像中提取对象级语义元数据，使用 ConceptNet 获取外部相关知识概念，并引入多源语义图来全面描述多源语义关系，以促进讽刺推理。

    Jun, 2023

  • 多模态讽刺检测：基于分层一致性建模与知识增强的研究

    本文提出了一种基于层次结构的检测方法，通过多头交叉注意力机制和图神经网络同时探索文本和图像之间的原子级一致性和组成级一致性，利用丰富的外部知识资源进行讽刺检测，评估结果表明该模型优于现有的技术。

    Oct, 2022

  • CofiPara：一种用于大规模多模态模型的粗糙 - 精细范式的多模态讽刺目标识别方法

    本文提出了一个多模态讽刺目标识别框架，采用从粗到细的方法，通过推理和预训练知识增强讽刺可解释性，在多模态讽刺中揭示复杂目标并减轻大型多模态模型潜在噪声的负面影响。实验结果表明，我们的模型在 MSTI 方法上表现出色，并在识别讽刺方面具有解释性。

    May, 2024

  • 情感识别讽刺言语的多模态语料库

    本论文针对识别嘲讽表达中的情感这一未被探索的任务，使用了最近发布的多模态嘲讽检测数据集（MUStARD）进行研究，并修正了其中的错误标签，最终将数据集标记上情感、情感强度和具体嘲讽类型，并提出多模态融合模型，用于嘲讽情感识别，表现优于现有的技术水平。

    Jun, 2022

  • DocMSU: 文档级多模态讽刺理解的综合性基准

    本研究提出了一个用于文档级多模式讽刺理解的全面基准测试，并引入了细粒度的讽刺理解方法，有效地将图像特征与文本特征在文档中进行对齐，实验证明该方法可以作为具有挑战性的 DocMSU 的基线方法。

    Dec, 2023

  • 如何更有趣地描述图片？走向跨模态反讽生成的模块化方法

    本研究通过运用 EGRM 模块化方法和排序算法，提出了一种在缺少配对数据的情况下从图像生成讽刺描述的新方法，并通过人工评估和辅助自动评估证明了其优越性。

    Nov, 2022