Oct, 2022

仇恨言论如何因目标身份而异：计算分析

PDF
TL;DR本文研究仇恨言论如何根据目标身份在系统性方面变化。我们发现，针对特定身份群体的仇恨言论分类器很难推广到其他目标身份，而且发现与特定身份有关的仇恨言论中的单词通常涉及到刻板印象，压迫历史，社会运动和其他特定身份的社会背景。
hate speechidentitydemographic categorystereotypesoppression
发现论文，激发创造
  • 仇恨言论：社交媒体上基于目标的语言分析

    本文通过文本语言学和心理语言学分析探讨网络仇恨言论的不同形式，发现两种仇恨言论的语言特征不同，以期深化了解并帮助检测网络仇恨言论。

    Apr, 2018

  • 仇恨传播数据集的系统综述中的未被察觉的目标

    机器学习（ML）基于内容审查工具对保持在线空间的免受仇恨性沟通至关重要。然而，ML 工具的能力仅取决于其所训练的数据的质量。虽然越来越多的证据表明它们在检测针对特定身份的仇恨性沟通方面表现不佳，并可能对其进行歧视，但我们对此类偏见的来源了解甚少。为了填补这一空白，我们对过去十年中引入的用于自动检测仇恨性沟通的数据集进行了系统回顾，并就数据集中所包含的个体身份质量进行了分析，这些身份是数据策划者关注的仇恨性沟通目标以及不经意间被包含在数据集中的身份。总体而言，我们发现了对选择的目标身份存在偏向的代表性和研究概念化和最终包含在数据集中的目标之间的不匹配。然而，通过将这些发现与数据集的语言和来源地背景进行联系，我们强调了这一研究领域向广泛化和多样化的积极趋势。

    May, 2024

  • 构建仇恨言论检测数据集的挑战

    通过对针对性别少数群体的仇恨言论的具体例子，本文分析了仇恨言论检测所面临的问题，并提出了一个以数据为中心的综合框架，以跨七个广泛的维度来概括数据创建流程，同时指出实践者将从按照该框架来创建未来的仇恨言论数据集中获益。

    Sep, 2023

  • 分析在线社交媒体中的仇恨目标

    本文是一篇关于社交媒体上仇恨言论的系统性量化研究，使用了 Whisper 和 Twitter 两个社交媒体平台，采用一种新的方法来识别和分析仇恨言论的目标，旨在为防范和识别社交媒体上的仇恨言论提供方向。

    Mar, 2016

  • 走向可推广的仇恨言论检测：障碍与解决方案综述

    本综述旨在总结现有关于自然语言处理中针对在线仇恨言论检测模型泛化能力的研究结果、对现有模型泛化难题的原因进行解释、总结已有解决方案，并提出未来改善检测模型泛化能力的研究方向。

    Feb, 2021

  • 隐含有害内容的目标跨度检测

    通过收集并标注三个主要的暗含仇恨言论数据集（SBIC，DynaHate 和 IHC），我们定义了一个新的任务，旨在识别暗含仇恨言论的目标，并利用人类注释和大型语言模型（LLM）的匹配分数来实现这一目标。实验表明，Implicit-Target-Span 为目标跨度检测方法提供了一个具有挑战性的测试平台。

    Mar, 2024

  • 点对点仇恨：仇恨言论的煽动者和受害者

    本文通过对 Twitter 上仇恨言论发起人和目标用户进行多步分类研究，发现仇恨发起人的目标是较受欢迎和高知名度的 Twitter 用户，参与仇恨言论会导致更大的在线可见性，并通过个性分析表明，这两个群体具有与一般 Twitter 人口不同的离心性格面貌。

    Apr, 2018

  • 沿着种族、性别和综合交错的轴线分析仇恨言论数据

    为了解决仇恨言论不断增长的问题，本文探索了种族、性别交叉轴线上仇恨言论数据集的分析，发现 African American English、男性和 AAE + 男性推文中存在强烈的偏见，BERT 模型会传播这种偏见，但通过平衡训练数据可以实现更公平的性别模型。

    May, 2022

  • 仇恨言论标准：针对任务的模块化仇恨言论定义方法

    本文提出了用于制定更精确的定义和标注指南的仇恨言论标准，并提供了适用于特定场景的英语数据集的属性概述。

    Jun, 2022

  • 谁的观点更重要？透视感知模型识别仇恨言论检测中的受害者观点

    本研究通过多角度标注刻画线上辱骂现象，采用可感知群体视角的深度学习模型，提出构建多个黄金标准资源，最终在集成后能有效提高现有监督分类器的准确性。

    Jun, 2021