该研究提出了一种方法，使用 TRAC-2024 离线危害潜力识别，它包括两个子任务。研究利用了一个丰富的数据集，包含几种印度语言的社交媒体评论，并由专家评分进行注释，以捕捉离线背景危害的微妙含义。我们的方法在两个不同的任务中排名第二，分别具有 0.73 和 0.96 的 F1 值。我们的方法主要涉及选择预训练模型进行微调，结合对应学习技术，并最终通过测试集进行集成。

Mar, 2024

通过研究定义 ' 伤害 ' 的方式是否影响注释结果，我们发现研究者定义 ' 令人讨厌 '、' 冒犯 ' 和' 有害 ' 这些伤害概念时，注释员并不将它们看作同义词，且伤害定义的特征和注释员的个人特点解释了他们在使用这些术语上的差异，结果表明我们不应该将这些伤害概念在内容监控研究中互换使用，研究者应根据研究目标明确选择要分析的伤害概念，并在概念与现有有害内容检测算法识别的概念不同时提供界定结果的信息，同时鼓励算法提供者确保其工具能够适应特定上下文的内容检测目标（例如征求工具用户的反馈）。

Sep, 2023

该研究提出了一个基于 4 种伤害类型和 8 个伤害严重程度维度的严重程度框架，以帮助理解和优先处理各种影响并实现更好的在线伤害调查、政策和应用。

Aug, 2021

本文介绍了一个将 NLP 中的文本有害信息分为三个轴的分析框架，提供了处理和呈现有害文本的建议，并引入了使用文档标准来处理和呈现有害文本的方法。

Apr, 2022

探讨社交媒体的内容限制和过滤问题，特别强调了多媒体处理所涉及的伦理问题，同时讨论了使用 Amazon Turk（MTurk）时在提供不同信息模式下 MTurk 注释者性能的差异，并针对 Twitter 用户在不同人口统计学类别下的语言进行了对 Perspective API 毒性检测器的性能审计。

Oct, 2020

本研究介绍了一种适用于任何语言的详细框架，其中包括有关有害语言检测的各个方面，同时也提出了情感分析的整合作为改进有害语言检测的新方法。通过在低资源语言中实施该框架，展示了其高效的性能，达到了 99.4% 的恶意语言检测准确率和 66.2% 的情感分析准确率。

Mar, 2024

本文介绍了一种使用多个标签注释恶意在线言论的方法，强调了注释应该是细致、准确的。作者发布了一个高质量的数据集，使用六个标签注释了超过 40,000 条有关移民的推文，在此数据集上训练模型的表现优于基准数据集。

Oct, 2022

我们提出了一种新颖的标注方案，将仇恨言论分为五个独立的话语类别。通过构建包含对犹太人进行仇恨表达的超过 2.9M 条推特帖子的语料库，并对其中的 1,050 条推文进行注释，我们对注释的数据集进行了统计分析，并讨论了注释示例，最后提出了未来工作的有前途的方向。

Nov, 2023

本研究提出了两种新的问题定义：检测有害的互联网模因及其攻击的社会实体，并提供了 HarMeme 数据集。评估结果表明，使用多模态信号对这两个任务都很重要，但是需要进一步研究来解决现有模式的局限性。

Sep, 2021

本文是一篇关于社交媒体上仇恨言论的系统性量化研究，使用了 Whisper 和 Twitter 两个社交媒体平台，采用一种新的方法来识别和分析仇恨言论的目标，旨在为防范和识别社交媒体上的仇恨言论提供方向。

Mar, 2016