使用人工智能技术识别厌女症是一种打击网络对女性的有害言论的方式。本文中，我们提出了一种多任务学习方法，利用主体性解释厌女症的主题来提高识别系统性别歧视内容的性能。通过结合不同注释者的多样性观点，考虑六个配置文件组的性别和年龄，在模型设计方面进行了广泛实验和错误分析，并使用两种语言模型验证了我们提出的四种替代的多任务学习技术设计来识别英文推文中存在的厌女症内容。结果表明，结合多样化的观点增强了语言模型解释不同形式厌女症的能力。此研究推进了内容辅助管理，并强调了拥抱多元观点来构建有效的在线管理系统的重要性。

Jun, 2024

测量自然语言生成中的厌恶问题，并认为通用的 ' 有害性 ' 分类器对此任务不足够。使用 reddit 上的两个 'Incel' 社区的数据来构建训练语料库，我们通过精调两个语言模型表明，某个开源的 ' 有害性 ' 分类器无法区分这些模型的生成结果，而最近由女权主义领域专家提出的具有厌恶特定词汇索引的方法可以作为对厌恶评估的基准，可以揭示这些 Reddit 社区之间已知的差异。我们的初步研究结果凸显了评估伤害的通用方法的局限性，并进一步强调在自然语言评估中需要仔细选择和设计基准。

Dec, 2023

使用新颖的数据集开发方法，Biasly 数据集以与文献中独特的方式捕捉了对女性的厌恶的微妙之处。与多领域专家和标注员合作构建的数据集包含了电影字幕的标注，捕捉了北美电影中的口语表达对女性的厌恶。该数据集可用于各种 NLP 任务，包括分类、严重程度评分回归和文本重写的生成。在本文中，我们讨论了所使用的方法学，分析了获得的标注，并在对女性厌恶检测和缓解的背景下使用常见的 NLP 算法提供了基线。我们希望这项工作能促进 AI 在 NLP 中的社会价值，用于偏见检测、解释和消除。

Nov, 2023

社交媒体上有毒内容的普及，如仇恨言论、冒犯性语言和厌女症，已经引起了自然语言处理领域的广泛关注。本文介绍了首个阿拉伯语厌女症识别任务的提交系统，并研究了基于预训练 MARBERT 语言模型的多任务学习模型和单任务对应模型。而所有提交的模型在厌女症识别和分类任务中都取得了最佳表现（排名前三）。

Jun, 2022

本文介绍了一个阿拉伯黎凡特推特数据集作为阿拉伯语憎恨女性语言的基准数据集，提供了详细的数据集创建和注释阶段的回顾，并将之用于性能测试，结果表明该系统的性能与其他语言的最新技术结果一致，在使用 MTL 的情况下，对抗女性 / 目标分类任务的性能得到了提高。

Mar, 2021

通过分析 YouTube 上的 Hinglish 评论数据集，实施预处理和探索性数据分析技术，从情感评分和词云等角度对该数据集的特性进行了深入了解。

Mar, 2024

本文介绍了一个多语言标注的数据集，包含了印度英语，印地语和孟加拉语中的仇恨言论和攻击言论，并描述了数据收集和标注过程中的问题和挑战以及最终实验结果。

Mar, 2020

本研究提出了机器学习模型来检测社交媒体上的仇恨言论，其中包括基于句子嵌入、TF-IDF 向量和 BOW 向量的特征提取方法，研究团队在 2018 年的 EVALITA 的 AMI 共享任务中取得优异成绩，并公开了他们的获奖模型。

Dec, 2018

本文研究滥用语言检测模型的偏见问题，通过使用不同的滥用语言数据集和预训练词嵌入和模型架构，分析性别偏见并尝试了三种减轻 偏见的方法：去偏向词嵌入、性别交换数据扩充以及使用更大的语料库进行微调。这些方法有效的降低了性别偏见 90-98%，并且可以扩展到解决其他情况下的偏见问题。

Aug, 2018

本文描述了我们团队在 SemEval-2022 任务 5 中开发的自动鄙视女性言论辨识系统，该系统采用了 Bertweet 和 ResNet-18 等多种模型进行文本和图像分析，取得了较好的分类效果，排名 15 和 11 位。

Feb, 2022