本文介绍了一种利用词嵌入发现并分类 Reddit 上语言偏见的数据驱动方法，并通过连接数据中的评价性词语和受保护属性，并经过语义分析系统分类来自动发现 Reddit 社区中编码的语言偏见。

Aug, 2020

本文提出了一种跨语言领域感知语义专业化系统，利用高资源语言（英语）的语义资源来专业化低资源语言（中文）的已预训练词向量，从而实现社交媒体中低资源语言性别歧视检测。通过内在评估和外在评估，证明了该系统显著提高了歧视识别的词性和表现。

Nov, 2022

本文介绍了在一个大型奥地利德语报刊评论中检测厌女情绪的工作，其中创建了一个包含6600个带有五个不同厌女程度注释的语料库，并描述了基于变换器的分类模型对该语料库进行二元分类和原始标签分类的结果。

Nov, 2022

介绍 SemEval 任务 10，该任务是关于可解释的在线性别歧视检测（EDOS）。我们提出了新的性别歧视分层分类体系，包括帮助解释的细粒度歧视向量，并提供了一个新的带有细粒度标签的20,000条社交媒体评论数据集，以及用于模型适应的更大型的未标注数据集，并提供了任务的基线模型以及对参与者提交的方法、结果和错误的分析。

Mar, 2023

本文讨论了我们在SemEval-2023任务10中应用的方法：实现在线性别歧视的可解释检测。我们进行了三个分类任务以预测文本是否具有性别歧视，将性别歧视文本分类为子类以提供其他解释。我们尝试了许多不同类型的模型，包括GloVe嵌入作为基线方法，基于transformer的深度学习模型如BERT，RoBERTa和DeBERTa，集成模型和模型混合。我们探索了各种数据清理和增强方法以提高模型性能。预训练transformer模型在性能上产生了显着的改进，而集成和混合略微提高了F1的稳健性。

May, 2023

本文介绍了一个用于在线性别歧视检测的多任务模型，该模型通过对各种相关任务和数据集进行微调，然后在具体任务上进行微调，通过将每个任务形式化为二进制成对文本分类来实现多任务学习，结果相对于使用DeBERTa-V3 fine-tuned作为基准的结果进行比较，在任务A中，F1值达到了85.9％（rank 13/84），在任务B中达到了64.8％（rank 19/69），在任务C中达到了44.9％（rank 26/63）。

Jun, 2023

测量自然语言生成中的厌恶问题，并认为通用的'有害性'分类器对此任务不足够。使用reddit上的两个'Incel'社区的数据来构建训练语料库，我们通过精调两个语言模型表明，某个开源的'有害性'分类器无法区分这些模型的生成结果，而最近由女权主义领域专家提出的具有厌恶特定词汇索引的方法可以作为对厌恶评估的基准，可以揭示这些Reddit社区之间已知的差异。我们的初步研究结果凸显了评估伤害的通用方法的局限性，并进一步强调在自然语言评估中需要仔细选择和设计基准。

Dec, 2023

我们展示了如何利用影响分数来估计在训练模型和设计剪枝策略时数据点的重要性，应用于性别歧视检测案例中，我们评估了不同剪枝策略下训练的模型在三个领域外数据集上的性能，并发现大部分实例可以删除而不会显著降低性能，但我们还发现之前在自然语言推理任务中成功的剪枝数据策略不适用于检测有害内容，反而进一步加剧了已经普遍存在的类别不平衡问题，导致最坏情况下恶意类别完全消失。

Jun, 2024

通过利用自然语言处理模型，提高双语环境（英语和西班牙语）下的性别歧视识别能力，并使用XLM-RoBERTa模型和GPT-3.5完成两个任务，即判断文本是否性别歧视以及其来源意图。

Jun, 2024

此研究探讨了大型预训练语言模型的可解释性人工智能技术及其对性别偏见的影响，并创建了一个性别控制文本数据集，通过对预训练模型的不同微调程度进行XAI方法的评估，展示了解释性能与微调层数之间的关系。

Jun, 2024