ACLMay, 2022

DISARM: 检测受有害模因攻击的受害者

PDF
TL;DR该研究提出了一种名为 DISARM 的框架，它使用命名实体识别和个人识别来检测矫捷表达中的所有实体，并且可以识别其是否会造成伤害，通过在三个测试设置上进行系统实验，该模型相对其他模型表现较为稳定。
internet memeshate speechvictim detectionmultimodal deep neural networkentity recognition
发现论文，激发创造
  • 检测有害模因及其攻击目标

    本研究提出了两种新的问题定义：检测有害的互联网模因及其攻击的社会实体，并提供了 HarMeme 数据集。评估结果表明，使用多模态信号对这两个任务都很重要，但是需要进一步研究来解决现有模式的局限性。

    Sep, 2021

  • MOMENTA：一种检测有害模因及其目标的多模态框架

    本研究旨在探索检测和识别有害互联网迷因的方法和框架，对有害网络迷因和它们针对的社会实体进行研究分析，提出了一种名为 MOMENTA 的多模态深度神经网络方法，它可以系统分析输入迷因的局部和全局视角，并将其与背景上下文相关联。实验结果显示，MOMENTA 方法的性能优于其他类似方法。

    Sep, 2021

  • 解读仇恨：辨识仇恨迷因及其目标

    提出 Bengali Hateful Memes（BHM）数据集以及用于检测恶意表情包和识别相关社会实体的 DORA 模型，该模型在低资源恶意表情包数据集上表现出色。

    Mar, 2024

  • 在线模因中的仇恨解构

    本文提出了一种名为 DisMultiHate 的新框架，通过对目标实体进行解缠来提高多模式 meme 中令人讨厌内容的分类和可解释性。实验结果表明 DisMultiHate 能够胜过单一模态和多模态基线，这个方法对于多模态令人讨厌内容的分类任务具有很好的解释性。

    Aug, 2021

  • 有害模因中的实体特征：谁是英雄、反派和受害者？

    本研究设计了多模态框架 VECTOR，结合 HVVMemes 数据集，通过实验比较分析，其在识别恶意迷因中实体角色的表现优于其他模型，突显了语义角色标注具有的挑战性。

    Jan, 2023

  • HateProof：恶意 Meme 检测系统真的稳健吗？

    社交媒体上传播仇恨的行为越来越多，其中包括使用多模态方式的恶意内容，容易被现有的检测系统所规避。本文通过对现有系统进行外部对抗攻击，检验了其脆弱性，并提出了使用对比学习和基于对抗训练的方法来提高鲁棒性。实验结果表明，使用这两种方法可以在某些攻击下重获性能。

    Feb, 2023

  • 检测和理解有害的网络恶搞，一项调查

    该综述以有害网络迷因为研究对象，提出了新的分类方法，调查了相关研究现状，发现现有的数据集存在问题，迷因可通过多种语言进行传播，涉及的多模态语言和技术难题需要面对。

    May, 2022

  • 检测有害 Memes 中实体的角色：技术及其限制

    通过检测恶作剧梗图中的角色来识别有害网络内容中的主要实体，并对不同实验设置进行了比较分析，以增强算法性能。

    May, 2022

  • 一种用于检测恶意模因的多模态框架

    本篇论文旨在针对多种形式的恶意言论，特别是采用 Memes 表达的恶意言论开发一种新的多模态框架，该框架通过交叉验证的集成学习等增强措施，有效提高了已有多模态方法的性能，并在 Facebook 组织的 2020 年恶意 Memes 挑战的第二阶段中获得了 AUROC 评分 80.53，位列第四。

    Dec, 2020

  • 仇恨表情包检测的多模态学习

    本文提出了一种新的多模态方法，将图像字幕流程融合到恶意模因检测过程中，以提高其有效性，以在 Hateful Memes Detection Challenge 上取得了良好的结果。

    Nov, 2020