这篇论文讲述了如何提高对网络性别歧视检测的可解释性，并对比了单一任务和多任务学习在不同子任务下的表现。

Jun, 2023

通过利用自然语言处理模型，提高双语环境（英语和西班牙语）下的性别歧视识别能力，并使用 XLM-RoBERTa 模型和 GPT-3.5 完成两个任务，即判断文本是否性别歧视以及其来源意图。

Jun, 2024

本文对 SemEval-2023 Task 10 的 EDOS 任务进行了参与和研究，讨论了将两个语言模型：XLM-T 和 HateBERT 迁移用于英语 Gab 和 Reddit 数据集的多层次分类，进一步细分至性别歧视或非性别歧视，并使用人工标签数据和中间类信息实现了用于最大化模型性能的综合分类。我们提交的系统在 Task A 排名第 49，F1 得分为 0.82，并且仅低于最优系统 F1 得分 0.052％，表现具有较竞争力。

Apr, 2023

本文提出用基于心理学测量中的不同维度将性别歧视划分的代码书以及该代码书在社交媒体上标注现有和新的数据集的应用程序，以生成对抗性示例并测试当前机器学习模型在性别歧视检测方面的可靠性。虽然现有模型只能识别有限的语言标记，但包括多元化数据和对抗性示例在训练期间可改善模型广泛性和鲁棒性。

Apr, 2020

本文讨论了我们在 SemEval-2023 任务 10 中应用的方法：实现在线性别歧视的可解释检测。我们进行了三个分类任务以预测文本是否具有性别歧视，将性别歧视文本分类为子类以提供其他解释。我们尝试了许多不同类型的模型，包括 GloVe 嵌入作为基线方法，基于 transformer 的深度学习模型如 BERT，RoBERTa 和 DeBERTa，集成模型和模型混合。我们探索了各种数据清理和增强方法以提高模型性能。预训练 transformer 模型在性能上产生了显着的改进，而集成和混合略微提高了 F1 的稳健性。

May, 2023

介绍 SemEval 任务 10，该任务是关于可解释的在线性别歧视检测（EDOS）。我们提出了新的性别歧视分层分类体系，包括帮助解释的细粒度歧视向量，并提供了一个新的带有细粒度标签的 20,000 条社交媒体评论数据集，以及用于模型适应的更大型的未标注数据集，并提供了任务的基线模型以及对参与者提交的方法、结果和错误的分析。

Mar, 2023

我们展示了如何利用影响分数来估计在训练模型和设计剪枝策略时数据点的重要性，应用于性别歧视检测案例中，我们评估了不同剪枝策略下训练的模型在三个领域外数据集上的性能，并发现大部分实例可以删除而不会显著降低性能，但我们还发现之前在自然语言推理任务中成功的剪枝数据策略不适用于检测有害内容，反而进一步加剧了已经普遍存在的类别不平衡问题，导致最坏情况下恶意类别完全消失。

Jun, 2024

基于自然语言处理和人工智能的反性别歧视警报系统可分析任何公共帖子，判断是否为性别歧视评论，提供类似于交通灯的颜色系统来判断整体帖子中是否存在性别歧视，该系统在西班牙语标记数据集上训练，并取得了很好的性能表现。

Nov, 2023

本论文提出了一个对自然语言文本中的性别偏见进行分解的通用框架，通过多维度的性别偏见分类器可以控制生成模型性别偏差的问题，检测任意文本中的性别偏见，并揭示与性别相关的冒犯性语言。

May, 2020

本文提出一种基于深度学习和注意力机制的性别歧视检测模型，该模型使用 GloVe 或随机词嵌入，并应用于一组更加有针对性的和多样化的数据集，以获得 0.88 的 F1 分数，以区分更加微妙和难以检测的工作场所性别歧视言论。

Jul, 2020