开发了一个注释模式来构建数据集，以评估社交媒体文本的离线伤害潜力，不仅关注恶意言论或误导信息，还重点研究社交触发因素对在线内容造成的潜在伤害。

Mar, 2024

该研究论文介绍了 HASOC 子轨道，旨在为英语、印地语和马拉地语开发基准数据集，以支持在线平台的内容审核。他们解释了两种分析方法，分别为二元分类和精细分类问题，并提供分类算法的性能结果。

Dec, 2021

本研究采用多语言 BERT 提取特征，并在其上使用三个不同的分类器以识别社交媒体上的辱骂内容，最终在 Malayalam 数据上获得 0.70 的加权 F1 分数并排名第五，在 Tamil 数据上获得 0.573 的加权 F1 分数并排名第十一。

Apr, 2022

该论文评估了多种最先进的模型，特别关注减少模型对一些少数群体的偏见，提出了一个多任务学习模型以及一系列深度学习模型，并使用特定的指标测试这些身份群体中意料之外的模型偏见。

Sep, 2019

探讨社交媒体的内容限制和过滤问题，特别强调了多媒体处理所涉及的伦理问题，同时讨论了使用 Amazon Turk（MTurk）时在提供不同信息模式下 MTurk 注释者性能的差异，并针对 Twitter 用户在不同人口统计学类别下的语言进行了对 Perspective API 毒性检测器的性能审计。

Oct, 2020

本文介绍了 TU Berlin 小组在 2021 年印欧语言仇恨言论与攻击性内容检测共享任务的 1A 和 1B 子任务中采用的不同自然语言处理模型，包括基于循环神经网络的单词和字符级别模型以及基于 Bert 的转移学习方法，并评估了不同模型在比赛中的表现。结果表明，基于转移学习的模型在两个子任务中均取得了最佳结果。

Jan, 2022

本文介绍了 HASOC 2022 Marathi subtrack，该 track 提供了来自 Twitter 的手动注释数据集，分别对应三个子任务：Task A - offensive content identification、Task B - categorization of offensive types 和 Task C - offensive target identification。最终，本次比赛共有 10 支团队提交了 59 个结果，最佳表现的算法是采用传统与深度学习的结合，分别在 Subtrack 3A、Subtrack 3B 和 Subtrack 3C 上实现了 F1 值分别为 0.9745、0.9207 和 0.9607。

Nov, 2022

通过研究定义 ' 伤害 ' 的方式是否影响注释结果，我们发现研究者定义 ' 令人讨厌 '、' 冒犯 ' 和' 有害 ' 这些伤害概念时，注释员并不将它们看作同义词，且伤害定义的特征和注释员的个人特点解释了他们在使用这些术语上的差异，结果表明我们不应该将这些伤害概念在内容监控研究中互换使用，研究者应根据研究目标明确选择要分析的伤害概念，并在概念与现有有害内容检测算法识别的概念不同时提供界定结果的信息，同时鼓励算法提供者确保其工具能够适应特定上下文的内容检测目标（例如征求工具用户的反馈）。

Sep, 2023

通过跨语境词嵌入和迁移学习，将预测扩展到低资源语言中，为即将面临的恶意内容提供了解决方案。

May, 2021

本文介绍了在社交媒体中迅速增长的仇恨言论现象以及如何使用多语言算法进行检测，其中包括 Hindi、德语和英语等三种语言，使用的数据集是通过机器学习系统对 Twitter 进行分类得到的，并使用了变压器结构 BERT 进行实验。

Aug, 2021