针对社交媒体平台上不断增加的仇恨言论传播案例，本文提出了一种基于知识的泛化学习方法，旨在从无结构的文本数据中去除偏差和刻板化的词语，以实现偏差性言论的检测和控制。实验结果表明，与基于传统偏差去除方法的分类器相比，使用本文所提出的方法获得了更好的性能和偏差缓解效果。

Jan, 2020

本文介绍了 HateXplain，这是一项针对多个问题方面的第一个基准仇恨言论数据集，使用基本、常用的 3 级分类、目标社区和理由对数据集中的每个帖子进行了注释。我们利用现有的最先进模型观察到，即使在分类方面表现非常好的模型在模型合理性和忠实度等可解释度指标上也得分不高。此外，我们还观察到，利用人类理由进行训练的模型在减少对目标社区的非预期偏见方面表现更好。

Dec, 2020

本研究提出了一种利用人员与模型共同协作的动态数据集生成和训练模型的方法，生成了大约40,000项新数据并标注为15,000项令人挑战的扰动。通过这种方法训练出的模型性能大幅提升，具有更高的鲁棒性和更好的性能。

Dec, 2020

通过信息检索领域的标准方法，采用池化和主动学习技术及任务分解和注释说明技巧，构建了一个更全面的针对 Twitter 中仇恨言论检测的基准数据集，并显示了现有检测模型在这些更广泛的仇恨形式测试中准确度的显著下降。

Jun, 2021

本文研究 hate speech detection 模型的性能，构建了涵盖五个领域的大规模推文数据集，并利用变换器等算法，获得了至少5%（英文）和10%（土耳其语）的性能提升，在不同培训规模下具有强大的可扩展性和跨领域转移能力。

Mar, 2022

本文介绍了一种使用多个标签注释恶意在线言论的方法，强调了注释应该是细致、准确的。作者发布了一个高质量的数据集，使用六个标签注释了超过40,000条有关移民的推文，在此数据集上训练模型的表现优于基准数据集。

Oct, 2022

通过多任务联合学习中的情感特征提取方法，本文使用Bert和mBert模型提升了社交媒体平台上有害内容的探测，实现了数据高效率和更好的分类效果。

Feb, 2023

针对在线仇恨言论的自动检测是NLP领域的一个研究热点。本文通过对不同的仇恨言论检测数据集进行微调，分析了数据集通用性的差异，并证明了数据集的组合能够促进强大的仇恨言论检测模型的发展。

Jul, 2023

社交媒体上检测有害内容的困难在于看似简单的是/否分类隐藏了大量的复杂性。本文介绍了THOS数据集，该数据集包含了8.3k个带有目标细粒度标注的推文，展示了使用大型语言模型训练分类器在该层级进行分类的可行性。

Nov, 2023

通过对现有数据集的新的训练-测试分割，我们挑战了仅基于目标和关键词训练、评估仅考虑训练和测试数据之间的分布变化的仇恨言论模型。我们提出了两种分割变体，并使用四个预训练模型应用于两个数据集，揭示了模型在潜在空间中的盲点上的灾难性失败。进一步分析表明，数据分割的表面级属性与性能下降之间没有明确的相关性，这突显了任务的难度不总是容易人类解释的。我们推荐在模型开发中加入基于潜在特征的分割，并通过GenBench基准发布了两种分割方案。

Nov, 2023