Nov, 2023

Uli 数据集：基于经验驱动的 oGBV 注释练习

PDF
TL;DR在线性别暴力与互联网和社交媒体的采用同时增长。它在全球多数国家尤其严重，因为许多用户使用的社交媒体语言不是英语。由于互联网上对话的规模和数量，需要自动检测仇恨言论，尤其是性别虐待。然而，目前缺乏特定语言和语境数据来构建这样的自动化工具。本文介绍了一个关于三种语言 (印地语、泰米尔语和印度英语) 中性别虐待的数据集。该数据集包括在南亚的自称是妇女或 LGBTQIA 群体成员的专家标注的推文，涉及到性别虐待的经历的三个问题。通过这个数据集，我们展示了一种参与性的方法来创建推动 AI 系统的数据集。
发现论文，激发创造
  • 打破沉默：检测和减少印度在线空间中的性别虐待（印地语、泰米尔语和印度英语）

    在线性别基础骚扰是限制女性和边缘性别在数字空间中自由表达和参与的普遍问题。检测此类滥用内容可以使平台遏制这一威胁。我们参加了 ICON2023 举办的 Indic 语言中的性别虐待检测任务，该任务为构建分类器以识别带有性别偏见的滥用提供了英语、印地语和泰米尔语的注释 Twitter 帖子的数据集。我们的团队 CNLP-NITS-PP 开发了结合 CNN 和 BiLSTM 网络的集成方法，可以有效地建模文本数据中的语义和顺序模式。CNN 通过其应用于嵌入式输入文本的卷积滤波器捕捉到暴力语言的局部特征。为了确定基于上下文的冒犯性，BiLSTM 分析这个序列中单词和短语之间的依赖关系。我们为每种语言数据集训练了使用 FastText 和 GloVe 词嵌入的多种变体，其中包括超过 7600 个众包注释，涵盖了明确的滥用、针对少数群体的攻击和一般违规事项的标签。验证分数显示出强大的性能，特别是对于英语为 0.84。我们的实验证明了如何通过自定义嵌入和模型超参数来提高检测能力。该提议的架构在比赛中排名第一，证明其处理具有代码切换的现实世界嘈杂文本的能力。随着平台力图应对面临 Indic 语言互联网用户的网络骚扰，这种技术有着广阔的前景。我们的代码位于此 https URL。

    Apr, 2024

  • 虐待性语言训练数据的方向：垃圾进，垃圾出

    本研究从数据驱动分析、骚扰性在线内容、数据集创建、建议和基于证据的综合等方面，系统性地评估了一种在线暴力语言数据集。通过这种基于知识的综合，我们向从事这种复杂多样数据处理的从业者提供了推荐建议。

    Apr, 2020

  • 开发一个多语言的女性仇恨和侵略性注释语料库

    本文介绍了一个多语言标注的数据集，包含了印度英语，印地语和孟加拉语中的仇恨言论和攻击言论，并描述了数据收集和标注过程中的问题和挑战以及最终实验结果。

    Mar, 2020

  • 仇恨言论和辱骂语料库中的交叉偏见

    本研究通过对 Twitter 数据集进行分类，发现算法对于辱骂言论和仇恨言论的判别对非裔美国人和非裔男性的偏见较强，这提供了有关算法数据集中交叉偏见的首个系统性证据。

    May, 2020

  • 对代码混合的厌女言论进行的探索性数据分析

    通过分析 YouTube 上的 Hinglish 评论数据集，实施预处理和探索性数据分析技术，从情感评分和词云等角度对该数据集的特性进行了深入了解。

    Mar, 2024

  • 印度英语混合编码数据的攻击注释语料库

    为了防止网络暴力和仇恨言论，本文通过对两个印度最流行的社交媒体平台 Twitter 和 Facebook 上的印地语 - 英语代码混合数据进行注释，开发出一套攻击标签集和注释语料库，以进行进一步的研究和防范。

    Mar, 2018

  • 推特上滥用语言的比较研究

    本文研究了在 Twitter 上关于仇恨言论和辱骂的数据集，考察了不同的学习模型和额外特征的加入，并得出了使用双向 GRU 网络结合潜在主题聚类模型的最优模型，F1 得分为 0.805。

    Aug, 2018

  • 创建图像和文本混合数据集以研究辱骂语言

    使用 CREENDER 开发了一个注释工具，用于创建图像和滥用评论的多模态数据集，该数据集在不同角度被分析，发现图像中是否存在人会增加触发攻击性评论的概率。

    May, 2020

  • 2023 年 ICON 共享任务概述：印度语中性别虐待检测

    在 ICON 2023 上报告了有关 Indic 语言中的性别虐待检测的研究结果，该共享任务涉及在在线文本中检测性别虐待，使用了新的数据集：印地语、泰米尔语和印度英语方言。

    Jan, 2024

  • 关于仇恨言论和辱骂语言检测数据集中的种族偏见问题

    本文研究了五个 Twitter 数据集上使用的基于分类器的识别恶意语言的技术中的种族歧视问题，并在使用这些技术时可能产生的不平等负面影响上发出了警告。

    May, 2019