Oct, 2020

关于跨数据集通用性的在线滥用自动检测

PDF
TL;DR通过无监督主题模型和人工主题关键词检查，我们发现 Wikipedia Detox 数据集中温和的例子偏向于平台特定主题，移除这些主题可以提高跨数据集泛化能力，同时不会降低领域内分类性能，为了建立一个有效的数据集设计，我们建议在手动标注类标签之前，应用廉价的无监督方法检查收集的数据并减少不具有泛化能力的内容。
nlpabusive language detectioncross-dataset generalizationunsupervised topic modelingdataset design
发现论文，激发创造
  • 使用基于知识的概括去除对仇恨言论检测任务的刻板偏见

    针对社交媒体平台上不断增加的仇恨言论传播案例，本文提出了一种基于知识的泛化学习方法，旨在从无结构的文本数据中去除偏差和刻板化的词语，以实现偏差性言论的检测和控制。实验结果表明，与基于传统偏差去除方法的分类器相比，使用本文所提出的方法获得了更好的性能和偏差缓解效果。

    Jan, 2020

  • DoDo 学习：针对公众人物的滥用言论检测的领域和人群转移

    公众人物、社交媒体、滥用、跨群体文本分类和通用滥用分类器

    Jul, 2023

  • 社交媒体上毒性建模中的跨地理偏见检测

    本文提出了一种弱监督的方法来检测在更广泛的地理文化背景下的词汇偏见，通过公开获取的有毒检测模型案例研究，展示了我们的方法如何识别跨地理误差的显著群体，并展示这些分组如何反映这些地理背景下人类对攻击性和无攻击性语言的判断.

    Apr, 2021

  • 社交媒体中的强韧仇恨言论检测：跨数据集实证评估

    针对在线仇恨言论的自动检测是 NLP 领域的一个研究热点。本文通过对不同的仇恨言论检测数据集进行微调，分析了数据集通用性的差异，并证明了数据集的组合能够促进强大的仇恨言论检测模型的发展。

    Jul, 2023

  • 異質環境下的辱罵語言檢測：數據集收集與監督注意力的作用

    本文提出了一种注重异质性的辱骂评论的检测算法，使用带监督的注意机制和多任务学习来提高性能，并在一个包含 11000 条评论的 YouTube 数据集上进行了实验比较。

    May, 2021

  • 跨数据集弱监督仇恨言论分类

    本篇论文提出了一种基于极弱监督策略的方法以解决仅存在于部分数据集的种族主义言辞（HS）的识别问题，并探究了 HS 分类模型泛化能力不佳的原因。

    May, 2023

  • 利用现有数据解决少样本辱骂内容检测问题

    本文提出了一种两步法的方法，使用现有的包含多种任务相关的虐待性语言检测数据集进行多任务学习，再进行少量的适应性训练以针对新的标签集或语言。实验结果表明这种方法可以提高模型的性能，并且可以在不同语言中实现跨语言识别。

    May, 2023

  • 不走捷径：基于集成的方法避免已知数据集偏差

    本文提出了一种训练出更具有领域迁移鲁棒性的模型的方法，通过训练一个简单模型以识别数据集偏差，再与鲁棒模型结合，使其更专注于数据集中更容易推广的模式。在五个具有领域迁移测试集的数据集上实验，结果显示在所有情况下都有显著改善，包括一个变化优先视觉问答数据集上的 12 点增益和一个对抗问答测试集上的 9 点增益。

    Sep, 2019

  • 不可靠新闻检测数据集中的隐性偏见

    本文研究了自动检测不可靠新闻的问题和如何创建更可靠的数据集，发现大规模新闻数据集存在选择性偏差和混淆因素，导致模型的表现不稳定，提出了创建更可靠的数据集的建议。

    Apr, 2021

  • 检测有毒语料库中的意外社会偏见

    本研究介绍了一个新的数据集 ToxicBias，这是从 Kaggle 竞赛中现有的数据集 “Jigsaw Unintended Bias in Toxicity Classification” 中精心策划的，旨在检测社交偏见及其类别和目标群体。我们使用我们策划的数据集对基于转换器的模型进行训练，并报告了偏见识别、目标生成和偏见影响的基线性能。研究还详细讨论了模型偏见及其缓解。

    Oct, 2022