针对现代有毒言语检测器在辨识出具有隐蔽性的攻击语言（如故意避开已知有毒词汇表的对抗性攻击或内在偏见的表现）方面的无能，本文提出了一种框架，该框架旨在强化现有的有毒言语检测器，同时又不需要进行大规模的隐蔽性毒性标注语料库训练。只需用极少量的探测示例就可以揭示出更多隐蔽性攻击言辞，然后将这些发现的攻击性示例用于增强有毒言语检测器的训练数据，从而使其在保留检测显性毒性的效用的同时更加鲁棒。

Oct, 2020

由于文本分类器开发中的偏见关联限制了公平性和准确性，因此我们调查了最近介绍的去偏置方法，作用于检测有毒语言的文本分类数据集和模型，重点关注词汇（例如骂人话、侮辱性言论、身份称谓）和方言标记（特别是非裔美国英语）。我们的全面实验表明，现有的方法在防止当前毒性检测器中出现有偏见的行为方面存在局限性。然后，我们提出了一种自动的方言感知数据校正方法作为概念验证。尽管采用了合成标签，但该方法减少了方言与毒性之间的关联。总的来说，我们的发现表明，在训练有毒性偏见性数据的模型时去偏置并不如简单重标记数据以消除现有偏见有效。

Jan, 2021

通过使用不变量理性化 (InvRat) 方法，我们可以降低对某些语法模式的误判，从而避免使用带有偏见的训练数据集导致毒性过滤器产生偏见，进而加剧群体边缘化的现象。

Jun, 2021

本研究探讨不同训练策略如何利用少量人工注释标签和大量但带有偏见的合成标签（针对身份群体）来预测在线评论的毒性，并评估了这些方法的准确性和公正性。虽然最初使用所有数据进行训练并在干净数据上微调能够产生具有最高AUC的模型，但同时我们发现没有一种策略在所有公正度量标准上表现最佳。

Oct, 2021

通过两项在线研究探究了评注者身份和信仰对有毒语言的评注的影响，发现评注者的身份和信仰与有毒性评分之间有很强的关联，表明对有毒语言的注释需要在社会变量中予以情境化考虑，进而提高有毒语言的注释和检测的准确性。

Nov, 2021

本研究介绍了一个新的数据集ToxicBias，这是从Kaggle竞赛中现有的数据集“Jigsaw Unintended Bias in Toxicity Classification”中精心策划的，旨在检测社交偏见及其类别和目标群体。我们使用我们策划的数据集对基于转换器的模型进行训练，并报告了偏见识别、目标生成和偏见影响的基线性能。研究还详细讨论了模型偏见及其缓解。

Oct, 2022

本文介绍了一种毒性语言检测框架，通过考虑人为因素通过迭代反馈循环来提高毒性基准数据集的可靠性，以平衡性能和毒性避免之间的权衡。

May, 2023

在线毒性讨论的普及和影响使内容管理至关重要。自动化系统在识别有毒评论和减少对人工管理的依赖方面起着至关重要的作用。然而，识别多样化社区的有毒评论仍然存在挑战，本研究对此进行了探讨。

Nov, 2023

通过创造多语言音频数据集MuTox，实现了跨多种语言的零射击毒性检测，相比现有的基于文本的训练分类器，MuTox的AUC值提高了超过1％，语言覆盖范围扩大了10倍以上，相比于基于词汇列表的分类器，MuTox的精确度和召回率提高了约2.5倍，这一显著改进突显出MuTox在音频毒性检测领域的潜力。

Jan, 2024

通过引入Counterfactual Causal Debiasing Framework（CCDF）来解决毒性语言检测中的词汇偏见问题，使得模型在准确性和泛化能力上都表现出优秀的性能，并且相较于竞争模型，在公平性方面取得了显著的提升。

Jun, 2024