使用 8,258 条推特进行标注，该研究创建了一个广泛的 Amharic 基准数据集，用于三个任务：分类、识别仇恨目标和评估冒犯和仇恨的强度。结果显示，仇恨和冒犯性言论无法用简单的二元分类解决，并且在连续数值范围内变量化。Afro-XLMR-large 模型在这些任务中表现出最好的性能，分别达到了 75.30％，70.59％和 29.42％的 F1 分数。Afro-XLMR-large 模型的 80.22％相关系数显示了强大的一致性。

Apr, 2024

本文介绍了一种使用多个标签注释恶意在线言论的方法，强调了注释应该是细致、准确的。作者发布了一个高质量的数据集，使用六个标签注释了超过 40,000 条有关移民的推文，在此数据集上训练模型的表现优于基准数据集。

Oct, 2022

本研究考察了网站 Reddit 上 36,000 个社区之间的互动和如何导致冲突和负面互动。研究者发现少数社区 (小于 1%) 导致了 74% 的冲突，而冲突往往由高活跃度的社区成员开始，但由低活跃度的成员执行。冲突导致了 “回声室” 的形成，也对目标社区用户的整体活跃产生了负面影响。分析用户互动数据还提出了缓解冲突负面影响的策略，以及如何通过使用结合图嵌入，用户，社区和文本特征的 LSTM 模型来预测冲突的发生，早期预警系统可以防止冲突的发生。

Mar, 2018

本研究通过多角度标注刻画线上辱骂现象，采用可感知群体视角的深度学习模型，提出构建多个黄金标准资源，最终在集成后能有效提高现有监督分类器的准确性。

Jun, 2021

该研究通过基于语境维度的计算方法及相关知识资源，对推特上的极端主义内容进行了深入分析，开发出一种可靠的算法来识别和反制网络极端化。与竞争算法相比，该算法能够将误标记减少 10.2%。

Aug, 2019

研究建立在 WikiDisputes 的语料库上，使用特征和神经网络模型，预测带有争议的维基百科讨论页面是否会被调解员升级为调解。结果表明，利用能够捕捉对话过程中语言标记变化的特征，和考虑对话结构的神经网络模型能更准确地预测结果。

Jan, 2021

在线空间中的毒性问题是一个日益普遍且严重的问题，因此，过去十年的机器学习研究重点放在计算检测和缓解在线毒性上。然而，由于历史上此类标注往往存在较低的一致性，最近的研究指出了在构建和利用这些数据集时考虑这一任务的主观性的重要性，并激发了对评定者不一致性进行分析和更好理解以及如何将其有效纳入机器学习开发流程的研究。虽然这些努力填补了重要的空白，但缺乏更广泛的评定者不一致性根本原因的框架，因此我们将这项工作置于更广泛的背景之上。在这篇综述论文中，我们分析了关于在线毒性评定者不一致性原因的大量文献，并提出了详细的分类法。此外，我们还总结和讨论了针对每个不一致性原因的潜在解决方案，并讨论了几个能促进未来在线毒性研究发展的开放问题。

Nov, 2023

研究了 Reddit 上的争议性话题以及它们的情感动态，并发现争议性评论表达的愤怒情绪更高，乐观和正面情绪更少；争议性评论会对讨论中后续评论的情感产生影响，通常会导致愤怒情绪的长期增加以及积极情绪的减少，但具体情感变化的幅度和方向取决于讨论主题；情感能够更好地预测哪些评论会变得有争议，从而帮助社区更好地管理讨论。

Dec, 2022

本文通过对 Hateval 语料库进行人工标注并评估，探讨了大型语言模型中关于憎恨言论的论述元素自动识别的可靠性，发现某些元素相对可靠，对于那些错误率较高的元素，其争议点分析和适当调整后能够更为可靠的识别。

Jun, 2023

在线仇恨是一个不断升级的问题，对互联网用户的生活产生负面影响，并由于不断发展的事件而面临快速变化，进而导致新的在线仇恨浪潮构成重大威胁。为了解决这一关键问题，我们提出了一种名为 HATEGUARD 的新型框架，通过利用最近引入的思维链（CoT）提示技术，借助大型语言模型（LLMs）的能力，采用基于推理的方法有效地管理新的在线仇恨浪潮，并通过自动生成和更新检测提示来实现基于提示的零 - shot 检测，以应对新的在线仇恨浪潮。

Dec, 2023