Jan, 2024

机器能看到颜色：分类大型语料库中不同形式的种族主义言论的指南

PDF
TL;DR通过 XLM-RoBERTa 模型，本篇文章提供了一种可概括的步骤，用于在大量语料库中识别和分类不同形式的种族主义言论。通过将种族主义表现形式置于感兴趣的时间和地点的环境中，研究人员能够识别出他们的话语形式。
racist languageidentificationclassificationlarge corporaxlm-roberta
发现论文，激发创造
  • 基于词典的荷兰社交媒体种族主义检测方法

    本文介绍了一种基于辞典的检测荷兰社交媒体评论的种族主义方法，针对两个公共比利时社交媒体网站的评论进行了标记，使用了三个话语辞典，并训练多个支持向量机，最优表现的模型使用手动清理的字典，在测试集上获得了 0.46 的 F - 得分，自动扩展的字典仅略微提高了模型性能，在语料库中增加的单词并未对性能产生任何明显影响。

    Aug, 2016

  • 自然语言处理中种族、种族主义和反种族主义综述

    通过调查 ACL 文献集中涉及种族的 79 篇论文，发现 NLP 模型开发各阶段都存在各种类型的种族相关偏见，并强调需要积极考虑如何维护种族等级制度，但在种族和 NLP 研究方面仍存在缺口：将种族作为固定单一维度变量运作，对历史上种族歧视造成的差异加以强化；在 NLP 文献中历史上处于边缘的特定人群的声音几乎没有被重视。因此，我们的工作呼吁在 NLP 研究实践中包容种族和实现种族公正。

    Jun, 2021

  • 检测孟加拉语种族主义文本：一种集成深度学习框架

    利用 NLP 和深度学习技术，在孟加拉语中建立了一个新颖的数据集，进而成功地检测到了种族主义评论，采用了 RNN、LSTM 和 MCNN-LSTM 模型，并利用集成方法提高了整体性能。

    Jan, 2024

  • 侦测和消除词向量多类偏差：黑人类比罪犯，白人类比警察

    本文介绍了一种多类去偏差词嵌入的方法及其在标准自然语言处理任务中的有效性，防止机器学习模型被嵌入了在线文本中的人类刻板印象和偏见。

    Apr, 2019

  • 基于深度学习的推文中的恶意语言检测

    该论文提出了一种在社交媒体上识别仇恨内容的检测方案，并使用带有用户相关信息的各种特征以及来自文本内容的词频向量输入到一组循环神经网络分类器中，经实验证明该方法的有效性不仅可以成功区分仇恨言论和正常文本，而且分类的准确性也高于现有的最先进算法。

    Jan, 2018

  • 大型语言模型中的内部知识偏差发现

    通过引入一种全新的、纯粹基于提示的方法，本文揭示和分析大型语言模型中隐藏的社会偏见，为提高自然语言处理系统的透明度和促进公平性做出了贡献。

    Oct, 2023

  • 用于 Tumblr 微博网站基于意图的种族主义 / 激进帖子自动分类的语言属性表征

    通过对 Tumblr 微博网站上使用自由文本的语义、情感和语言特征进行鉴别，构建了一个级联集成学习分类器，该分类器可以识别具有种族主义或激进化倾向的帖子，结果表明情感语调、社交倾向、语言线索和人格特征是识别帖子背后种族主义意图的独特特征。

    Jan, 2017

  • 面向大型语言模型的审计：提升基于文本的刻板印象检测

    本研究介绍了一个多维度刻板印象数据集以及英文文本的新型刻板印象分类器，并通过多类别训练模型在多种可解释 AI 工具下展示出较好的性能，利用该模型评估了流行的 GPT 模型系列的刻板印象行为，并观察到刻板印象的减少，从而为 LLM 的刻板印象偏见审计和评估建立了一个稳健而实用的框架。

    Nov, 2023

  • 双语性别歧视分类：Fine-Tuned 的 XLM-RoBERTa 和 GPT-3.5 少样本学习

    通过利用自然语言处理模型，提高双语环境（英语和西班牙语）下的性别歧视识别能力，并使用 XLM-RoBERTa 模型和 GPT-3.5 完成两个任务，即判断文本是否性别歧视以及其来源意图。

    Jun, 2024

  • 关于仇恨言论和辱骂语言检测数据集中的种族偏见问题

    本文研究了五个 Twitter 数据集上使用的基于分类器的识别恶意语言的技术中的种族歧视问题，并在使用这些技术时可能产生的不平等负面影响上发出了警告。

    May, 2019