Apr, 2023

仇恨言论检测任务中需要社会文化知识来选择镜头

PDF
TL;DR本文介绍了 HATELEXICON，一个针对巴西、德国、印度和肯尼亚的蔑称和仇恨言论目标的词汇表，以帮助模型的训练和可解释性。通过模拟德语和印地语的 few-shot learning，文中展示了选择包含更多社会文化信息的 shot，使用我们的词表来选择 shot 能够提高模型的性能。
hatelexiconhate speechmodel interpretabilityfew-shot learningsociocultural information
发现论文，激发创造
  • ToKen：针对 Few-Shot 仇恨言论检测的任务分解和知识注入

    本文根据学科本质，将恶意言论检测问题视为少样本学习任务，并表明将该问题分解成其 “组成” 部分可以取得显着的收益。此外，我们发现从推理数据集（例如 Atomic2020）注入知识可以进一步提高性能。此外，我们观察到训练模型可以推广到分布之外的数据集中，表明任务分解和知识注入相比以前使用的方法具有优越性。具体而言，我们的方法在 16 个样本的情况下比基线提高了 17.83％的绝对收益。

    May, 2022

  • 利用现有数据解决少样本辱骂内容检测问题

    本文提出了一种两步法的方法，使用现有的包含多种任务相关的虐待性语言检测数据集进行多任务学习，再进行少量的适应性训练以针对新的标签集或语言。实验结果表明这种方法可以提高模型的性能，并且可以在不同语言中实现跨语言识别。

    May, 2023

  • 高度泛化的跨语言仇恨言论检测模型

    该研究旨在使用多语言数据集进行多语言仇恨言论检测和分类，并通过评估方法和语言无关的嵌入技术提高分类性能。

    Jan, 2022

  • 社交媒体中的上下文仇恨言论词汇挖掘

    通过社群检测方法和词嵌入模型，本研究发现标记数据和关键词方法在探测新兴极端组织使用的词汇时效果不佳，提出使用学到的代号词汇来识别 hate speech 的方法，通过实验得出该方法的准确度比使用关键词更高，可以被应用于自动化 hate speech 检测。

    Nov, 2017

  • 自動化檢測仇恨言論及冒犯性語言問題

    该研究利用众包的方法，通过使用集成的多分类器和众包获得的仇恨言论词汇，成功区分了具有仇恨言辞、仅具有冒犯性言辞以及没有冒犯性言辞的推文。

    Mar, 2017

  • 多语言辅助任务训练：缩小语言之间的差距，实现仇恨言论检测模型的零 - shot 迁移

    本文研究了零 - shot 语言跨域转移学习在对抗言检测等任务中所面临的挑战，并提出使用多语种辅助任务（情感分析、命名实体识别和依靠语法信息的任务）进行训练，以提高模型的零 - shot 转移到不同语言的能力，最终实现跨语言之间的言语和文化差异的缩小。

    Oct, 2022

  • FIRE 2020 上 HASOC 赛道概述：印欧语系中的仇恨言论与攻击内容识别

    本文介绍了在社交媒体中迅速增长的仇恨言论现象以及如何使用多语言算法进行检测，其中包括 Hindi、德语和英语等三种语言，使用的数据集是通过机器学习系统对 Twitter 进行分类得到的，并使用了变压器结构 BERT 进行实验。

    Aug, 2021

  • 多语言仇恨言论检测的深度学习模型

    本研究从 16 个数据来源的 9 种语言中进行大规模的多语言仇恨言论分析，发现在低资源设置下，使用 LASER 嵌入和逻辑回归的简单模型性能最佳，在高资源设置下，BERT 模型表现更好。对于零样本分类，意大利语和葡萄牙语取得了良好的效果。我们提出的框架可用作低资源语言的高效解决方案，并可作为未来多语言仇恨言论检测任务的良好基准。我们已公开了我们的代码和实验设置供其他研究人员使用。

    Apr, 2020

  • 利用弱标注数据在混合代码 Hinglish 中进行仇恨言论检测：基于可行性驱动的迁移学习方法与大型语言模型

    采用大语言模型（LLMs）进行很少标记的训练，结合零样本学习和少样本学习等方法，成功应用于 Hinglish 中的仇恨言论检测和粗细粒度的厌女症分类，研究表明使用 Bidirectional Auto-Regressive Transformers（BART）大模型的零样本分类和使用 Generative Pre-trained Transformer- 3（ChatGPT-3）的少样本提示获得了最佳结果。

    Mar, 2024

  • CReHate：英文仇恨言论数据集的跨文化重新标注

    通过对不同国家的个体如何感知仇恨言论的深入研究，我们引入了一个跨文化重新标注的采样 SBIC 数据集（CReHate）。该数据集包含来自五个不同国家的注释：澳大利亚、新加坡、南非、英国和美国。我们的深入统计分析突出了基于国籍的显著差异，而只有 59.4% 的样本在所有国家中达成了共识。我们还通过迁移学习引入了一种文化敏感的仇恨言论分类器，善于捕捉不同国籍的观点。这些发现强调了需要重新评估自然语言处理研究的某些方面，特别是对英语言中仇恨言论微妙性的关注。

    Aug, 2023