IJCAIMay, 2022

检测和理解有害的网络恶搞，一项调查

PDF
TL;DR该综述以有害网络迷因为研究对象，提出了新的分类方法，调查了相关研究现状，发现现有的数据集存在问题，迷因可通过多种语言进行传播，涉及的多模态语言和技术难题需要面对。
harmful memesmultimodaldatasetsglobal propagationsocial engagement
发现论文，激发创造
  • 检测有害模因及其攻击目标

    本研究提出了两种新的问题定义：检测有害的互联网模因及其攻击的社会实体，并提供了 HarMeme 数据集。评估结果表明，使用多模态信号对这两个任务都很重要，但是需要进一步研究来解决现有模式的局限性。

    Sep, 2021

  • 仇恨表情包检测的多模态学习

    本文提出了一种新的多模态方法，将图像字幕流程融合到恶意模因检测过程中，以提高其有效性，以在 Hateful Memes Detection Challenge 上取得了良好的结果。

    Nov, 2020

  • MOMENTA：一种检测有害模因及其目标的多模态框架

    本研究旨在探索检测和识别有害互联网迷因的方法和框架，对有害网络迷因和它们针对的社会实体进行研究分析，提出了一种名为 MOMENTA 的多模态深度神经网络方法，它可以系统分析输入迷因的局部和全局视角，并将其与背景上下文相关联。实验结果显示，MOMENTA 方法的性能优于其他类似方法。

    Sep, 2021

  • 一种用于检测恶意模因的多模态框架

    本篇论文旨在针对多种形式的恶意言论，特别是采用 Memes 表达的恶意言论开发一种新的多模态框架，该框架通过交叉验证的集成学习等增强措施，有效提高了已有多模态方法的性能，并在 Facebook 组织的 2020 年恶意 Memes 挑战的第二阶段中获得了 AUROC 评分 80.53，位列第四。

    Dec, 2020

  • 毒性模因：关于检测和解释模因毒性的计算视角调查

    通过系统的调查与综述，我们填补了对有毒模因的内容分析的备受争议的术语和未探索趋势的先前相关研究的空白。我们对 118 篇新论文进行了调查，分析了 158 项内容为基础的有毒模因分析工作。我们提出了对模因有毒性类型进行分类的新分类法，并鉴别了模因有毒性的三个内容维度：目标、意图和传达策略。研究还分析了一些关键挑战和最新趋势，如增强的跨模态推理、专家和文化知识的整合、自动毒性解释的需求以及在资源匮乏语言中处理模因有毒性。最后，我们提出了推进有毒模因检测和解析的路径。

    Jun, 2024

  • 揭示具多模态推理所精炼之大型语言模型背后的有害迷因

    本论文提出了一种基于多模态信息相互作用的先进推理的检测有害模因的方法，通过利用大型语言模型的推理能力和生成框架，实现了对有害模因的优化检测。实验证明该方法在有害模因检测任务上表现优于现有方法。

    Dec, 2023

  • 多模态和可解释的网络模因分类

    本文针对当前因网络平台被用于地缘政治事件和社会问题而使得互联网谣言的信息审核变得更加困难，旨在设计实现一个多模态分类方法，利用文本和图像来识别有害的网络谣言，通过举例和原型推理比较示范算法之间的性能差异，为社区提供启发，同时设计一种用户友好的界面以方便对比分析结果。

    Dec, 2022

  • 通过大规模语言模型之间的多模态辩论实现可解释的有害表情包检测

    通过基于大型语言模型的多模态辩论和小型语言模型的调优，我们提出了一种可解释的方法来检测有害的互联网迷因，使模型能够对模糊和隐含的危害模式进行辨别，并提供可视化的解释。

    Jan, 2024

  • 检测有害 Memes 中实体的角色：技术及其限制

    通过检测恶作剧梗图中的角色来识别有害网络内容中的主要实体，并对不同实验设置进行了比较分析，以增强算法性能。

    May, 2022

  • TeamX@DravidianLangTech-ACL2022: 基于 Troll 的 Meme 分类的比较分析

    本研究对网络 “喷子” 产生的恶意文本、图片和二者融合的混合内容进行了分类和对比分析。结果表明，基于多语言的文本和二者融合的混合内容分类性能更好，相较于基准算法有所提升。

    May, 2022