本文介绍了 HateXplain，这是一项针对多个问题方面的第一个基准仇恨言论数据集，使用基本、常用的 3 级分类、目标社区和理由对数据集中的每个帖子进行了注释。我们利用现有的最先进模型观察到，即使在分类方面表现非常好的模型在模型合理性和忠实度等可解释度指标上也得分不高。此外，我们还观察到，利用人类理由进行训练的模型在减少对目标社区的非预期偏见方面表现更好。

Dec, 2020

研究表明，上下文对于识别网络仇恨言论和反对言论至关重要。作者利用Reddit评论创建了一个上下文感知数据集，使用人类判断和神经网络实验结果表明，考虑上下文可以使结果显著提升。

Jun, 2022

提出一种基于图的深度学习架构GraphNLI，利用图遍历来增强在线讨论中评论的上下文信息，提高评论情感极性和仇恨言论检测任务的性能。

Nov, 2022

本文介绍了一种利用图转换网络、注意力和 BERT 等自然语言处理技术来预测社交媒体中仇恨言论的方法，并分析了该方法在检测效果上的优劣和扩展性。研究发现，关注上下文可以支持多模态的在线帖子分析，从而解决社会影响的 AI 解决方案中面临的动态变化的问题，并通过策划内容来增进心理健康。

Jan, 2023

本文通过分析 Facebook 上代表性的 far-right Hindutva pages 数据集来解决 Social Media Platforms 上 toxic speech 和 hateful content 的问题，使用 state-of-the-art 的 XLM-T multilingual transformer-based language models 对文本内容进行情感和 hate speech 分析，并讨论预训练语言模型的性能和局限性。

Jan, 2023

本文提出了一种基于超伸缩空间的用户与对话上下文配合的机制CoSyn，用于在线讨论中检测隐含仇恨言论，该方法在开放源Twitter数据集上的实验表明：CoSyn在检测隐含仇恨言论方面表现出比其它方法更好的性能。

Mar, 2023

该研究旨在提出一种名为 GOTHate 的数据集，包含了多语言和多主题，并引入内源信号来增强恶意言论检测任务。作者开发出了一种多语言模型 HEN-mBERT，其通过历史、拓扑和范例等内源信号来改善语义分析。实验结果表明，该模型相较于其他模型提升了 2.5% 的整体宏 F1 值和 5% 的恶意言论 F1 值。

Jun, 2023

我们提出了一种新颖的多模态基于图的Transformer模型（mDT），用于检测在线社交网络中的仇恨言论。与传统的仅处理文本的方法相比，我们的方法围绕整体分析文本和图像对评论进行仇恨言论标记。为了组合文本和图像嵌入而不是单独处理不同的模态，我们利用图Transformer来捕捉整个讨论中的上下文关系，并插入融合层。我们将模型的性能与仅处理文本的基准进行比较，并进行了广泛的消融研究。最后，我们提出了未来的工作，探讨多模态解决方案在在线环境中提供社会价值，并认为捕捉对话的整体观点大大推进了检测反社会行为的努力。

Jul, 2023

该研究提出了一种基于图形的关注语义上下文建模（GASCOM）框架，用于在线对话理解，并利用此框架重新审视极性预测和仇恨言论检测两个研究领域，显著提高了两个任务的性能，并增加了可解释性。

Oct, 2023

在这篇论文中，我们提出了一种新颖的端到端模型HCDIR，用于社交媒体帖子中仇恨上下文的检测和仇恨强度的降低。我们通过微调多个预训练语言模型来检测仇恨评论，并通过集成梯度（IG）模型辩证地确定了这些仇恨词的上下文。最后，我们使用掩蔽式语言建模（MLM）模型捕捉领域特定细微之处，以降低仇恨强度。我们在多个最新数据集上进行了广泛的实验，并使用基于自动度量标准（BERTScore）和全面的人工评估来增强信度。为了提高人工评估的可靠性，我们安排了一个由3名具有不同专业知识的人类标注者组成的小组。

Dec, 2023