MMOct, 2020

不以封面论人：理解社交媒体研究中多模态处理中的伤害

PDF
TL;DR探讨社交媒体的内容限制和过滤问题，特别强调了多媒体处理所涉及的伦理问题，同时讨论了使用 Amazon Turk（MTurk）时在提供不同信息模式下 MTurk 注释者性能的差异，并针对 Twitter 用户在不同人口统计学类别下的语言进行了对 Perspective API 毒性检测器的性能审计。
social mediamoderationmultimedia processingamazon turktoxicity detector
发现论文，激发创造
  • 检测有害模因及其攻击目标

    本研究提出了两种新的问题定义：检测有害的互联网模因及其攻击的社会实体，并提供了 HarMeme 数据集。评估结果表明，使用多模态信号对这两个任务都很重要，但是需要进一步研究来解决现有模式的局限性。

    Sep, 2021

  • 检测和理解有害的网络恶搞，一项调查

    该综述以有害网络迷因为研究对象，提出了新的分类方法，调查了相关研究现状，发现现有的数据集存在问题，迷因可通过多种语言进行传播，涉及的多模态语言和技术难题需要面对。

    May, 2022

  • 多模态分类分析社交媒体

    本研究使用池化层和辅助学习任务进行多模态社交媒体数据分类，具有良好的鲁棒性和高准确性，并与传统融合方法相比有着显著的优势。

    Aug, 2017

  • 如何定义有害对数据标注的影响：解释注解者如何区分令人厌恶、冒犯和有毒评论

    通过研究定义 ' 伤害 ' 的方式是否影响注释结果，我们发现研究者定义 ' 令人讨厌 '、' 冒犯 ' 和' 有害 ' 这些伤害概念时，注释员并不将它们看作同义词，且伤害定义的特征和注释员的个人特点解释了他们在使用这些术语上的差异，结果表明我们不应该将这些伤害概念在内容监控研究中互换使用，研究者应根据研究目标明确选择要分析的伤害概念，并在概念与现有有害内容检测算法识别的概念不同时提供界定结果的信息，同时鼓励算法提供者确保其工具能够适应特定上下文的内容检测目标（例如征求工具用户的反馈）。

    Sep, 2023

  • 多模态虚假信息检测：方法、挑战及机遇

    本文分析社交媒体中多模态环境下的虚假信息与图片 / 视频利用的挑战和机会，探讨现存技术及其不足，旨在进一步提升多模态虚假信息检测的技术。

    Mar, 2022

  • 借用人类感官：面向社交媒体多模态分类的评论感知自我训练

    本研究提出了一种利用用户评论建模和自监督学习的方法，用于在社交媒体上进行图像文字关系分类、讽刺检测、情感分类和仇恨言论检测等多模态分类任务，结果表明该方法进一步提高了先前最先进模型的性能。

    Mar, 2023

  • 英语边缘滥用模型在 Twitter 上对被边缘化群体过度惩罚的基于关键词的方法

    本文通过设计一种新的方法来检测和衡量基于文本的模型所涉及的潜在危害的严重性，并将该方法应用于 Twitter 的英语边缘滥用模型，以检测和测量与过度惩罚边缘社区言论相关的问题，并通过增加附加真负面示例来减轻相关危害。

    Oct, 2022

  • 自然语言处理研究中有害文本的处理和展现

    本文介绍了一个将 NLP 中的文本有害信息分为三个轴的分析框架，提供了处理和呈现有害文本的建议，并引入了使用文档标准来处理和呈现有害文本的方法。

    Apr, 2022

  • 从危险到可能性：探究人类（与人工智能）偏见如何影响在线论坛

    社交媒体分析是通过复杂网络分析和自然语言处理的工具来分析社交互动、用户生成的内容和偏见的现象，主要围绕在线辩论、在线支持群体和人类与人工智能的互动展开讨论，同时强调社交媒体内部的双重困境与可能性，以及人机生成内容中隐藏的人类和非人类偏见。

    Mar, 2024

  • 谁来保护版主？众包图像审核案例分析

    本文研究通过模糊图片，减少内容审核员将受精神和情感损伤的私人数据泄露给他们。

    Apr, 2018