本研究通过使用新的数据集及一系列特征，包括n-grams、skip-grams和基于聚类的单词表示等，运用监督式分类方法，分别采用单个分类器、集成分类器和堆叠泛化等方法来区分社交媒体上的普通粗口和仇恨言论，获得了80%的准确率。然而，研究发现要区分仇恨言论和粗口并不是一件简单的任务。

Mar, 2018

该论文基于Transformer语言模型，研究了在社交媒体文本中检测和分类仇恨的问题，并将其固定为三类，同时证明了多语言训练模式的有效性和特定特征对体系结构分类表现的影响。

Jan, 2021

该研究旨在使用多语言数据集进行多语言仇恨言论检测和分类，并通过评估方法和语言无关的嵌入技术提高分类性能。

Jan, 2022

本文提供了一种新的特征归因方法用于解释文本分类器，用于分析恶意言论检测；提供“必要性”和“充分性”两种互补的理论得分，计算这些值的透明方法通过生成输入文本的显式扰动，使重要性评分本身具有可解释性；我们使用这种方法解释了不同恶意言语检测模型对同一测试套件中策划示例的预测，并表明对于身份术语的不同必要性和充分性值对应于不同类型的误报错误，揭示了分类器对边缘化群体的偏见的来源。

May, 2022

探讨了自动检测恶意言论的各种挑战，并提供了一个分层组织的问题列表。在数据级别、模型级别和人类级别分别区分了挑战，并对每个层次进行了详尽的分析，以帮助研究人员更有效地设计其在恶意言论检测领域中的解决方案。

Sep, 2022

本文提出了HateMAML框架，通过meta-learning技术和self-supervision策略在低资源语言下进行仇恨言论检测，并且达到了比现有方案更好的性能，同时兼备了跨语言迁移和领域泛化功能。

Mar, 2023

针对在线仇恨言论的自动检测是NLP领域的一个研究热点。本文通过对不同的仇恨言论检测数据集进行微调，分析了数据集通用性的差异，并证明了数据集的组合能够促进强大的仇恨言论检测模型的发展。

Jul, 2023

该研究提出了一种多模态系统的综合方法，通过提取视频内容中的特征图像、音频、文本的特征值，并利用机器学习和自然语言处理来检测恶意言论。

Jun, 2023

通过对现有数据集的新的训练-测试分割，我们挑战了仅基于目标和关键词训练、评估仅考虑训练和测试数据之间的分布变化的仇恨言论模型。我们提出了两种分割变体，并使用四个预训练模型应用于两个数据集，揭示了模型在潜在空间中的盲点上的灾难性失败。进一步分析表明，数据分割的表面级属性与性能下降之间没有明确的相关性，这突显了任务的难度不总是容易人类解释的。我们推荐在模型开发中加入基于潜在特征的分割，并通过GenBench基准发布了两种分割方案。

Nov, 2023

本研究解决了自然语言处理领域模型受人类偏见影响的问题，尽管近年来对此现象的研究日益增多，但相关资源仍然相对匮乏。我们的创新方法是整合公开数据集以更有效地训练仇恨言论检测和分类模型，并分析数据集中的主要问题，研究表明不同数据集的组合对模型性能产生显著影响。

Aug, 2024