Aug, 2020

跨语言迁移技术提升攻击性语言检测：SemEval-2020 第 12 项任务中的 NLPDove

PDF
TL;DR本文介绍了我们在多语言环境下识别冒犯性语言的方法，使用数据增强策略，包括使用具有不同阈值的附加半监督标签和跨语言转移与数据选择，并提出了一个新的度量标准 Translation Embedding Distance，用于跨语言数据选择。我们还提出了各种预处理步骤和微调方法，定制社交媒体文本的预训练多语言 BERT（mBERT）来进行冒犯性语言识别，我们的多语言系统在 OffensEval 2020 上取得了有竞争力的结果。
发现论文，激发创造
  • 跨语言归纳迁移学习用于检测攻击性语言

    本文采用跨语言归纳方法基于上下文的词嵌入模型 XLM-RoBERTa 检测跨语言社交媒体中的冒犯性语言，实验结果表明我们的模型在五种语言中表现竞争力，并在零 - shot 学习环境下显示出可扩展性。

    Jul, 2020

  • 跨语言冒犯性语言检测：数据集、迁移方法和挑战的系统综述

    社交媒体中冒犯性语言的快速增长和快速演变加大了检测的复杂性，尤其突显了在不同语言中识别此类内容的挑战。该调查针对社交媒体中的冒犯性语言检测在跨语言场景中进行了系统全面的交叉语言转移学习（CLTL）技术探索。我们的研究作为首个综合概述，专注于该领域的跨语言情景。我们分析了 67 篇相关论文，并按多个维度对这些研究进行了分类，包括所使用的多语言数据集的特征，使用的跨语言资源以及具体实施的 CLTL 策略。根据 “要转移什么”，我们还总结了三种主要的 CLTL 转移方法：实例、特征和参数转移。此外，我们还对当前挑战和未来的研究机会进行了探讨。此外，我们还在线提供了调查资源，包括两个全面的表格，其中提供了审查文献中使用的多语言数据集和 CLTL 方法的可访问参考。

    Jan, 2024

  • 低资源语言的多语种攻击性语言识别

    通过跨语境词嵌入和迁移学习，将预测扩展到低资源语言中，为即将面临的恶意内容提供了解决方案。

    May, 2021

  • Kungfupanda 于 SemEval-2020 12 任务：基于 BERT 的多任务学习用于冒犯性语言检测

    本篇研究论文针对社交媒体中的攻击性内容建立一个结合多任务学习和以 BERT 为基础的模型的系统，利用预训练的 BERT 语言模型有效地学习社交媒体中包含噪音的文本的表示，同时利用其他相关任务的监督信号来提高攻击性语言检测的性能，在 OffensEval-2020 比赛中，我们的模型在英文子任务 A 中达到了 91.51％的 F1 得分，相当于第一名（92.23％F1），同时提供了经验分析来解释我们方法的有效性。

    Apr, 2020

  • 跨语言嵌入的多语言攻击性语言识别

    本文探讨了如何利用跨语境上下文词向量和迁移学习在使用资源较少的本地化语言中进行社交媒体中的冒犯内容检测，结果表明这个方法在孟加拉语、印地语和西班牙语等多种语言中的检测效率较高。

    Oct, 2020

  • 使用 Transformers 从多语代码混合文本中检测攻击性言论

    本论文提出了一种多语言自动化系统，使用机器学习和转换器来从混合语言的数据中识别带有冒犯性的文本，并在 Tamil、Malayalam 和 Kannada 三种语言的数据集上进行了测试。结果表明，该系统在不同语言上表现出不同的最佳表现方法，得分最高的是 m-BERT（Kannada）和 XLM-R（Tamil 和 Malayalam），系统性能达到了一定的水平。

    Feb, 2021

  • 跨文化转移学习用于汉语攻击性言语检测

    本研究旨在研究利用来自不同文化背景（尤其是韩国和英国）的数据进行传递学习对汉语攻击性语言检测的影响，并发现考虑文化特定的偏见会对语言模型的可传递性产生负面影响，而在多元文化的数据上训练的语言模型对汉语攻击性语言检测的不同特征敏感。研究表明，在有限的资源下，少样本学习情况下进行非英语攻击性语言检测有着良好的前景，并突显了跨文化传递学习在改善攻击性语言检测和促进包容性数字空间方面的重要性。

    Mar, 2023

  • Galileo 在 SemEval-2020 任务 12 中：使用预训练语言模型进行多语言攻击性语言识别的学习

    本文研究使用预训练语言模型 ERNIE 和 XLM-R 在社交媒体中检测和分类攻击性语言，提出了一种多语言方法和知识蒸馏方法，并在 SemEval-2020 任务 12 中表现出了优异的性能，成为唯一在所有语言下排名前三的团队。

    Oct, 2020

  • SemEval-2020 任务 12：社交媒体中的多语种攻击性语言识别（OffensEval 2020）

    总结 SemEval-2020 中的 OffensEval 任务，它涉及多语言社交媒体中的多语种冒犯性语言识别，并说明了其在 OffensEval 2019 中的分层分类结构。

    Jun, 2020

  • 识别转写和混合编码的孟加拉语冒犯性语言

    在这篇研究中，我们探讨了社交媒体上的冒犯性内容识别问题，特别关注多语社会中常见的音译和混合语言现象对自然语言处理系统的挑战。我们引入了一份包含 5000 条手动注释评论的音译孟加拉冒犯性语言数据集（TB-OLID），并在该数据集上对机器学习模型进行训练、微调和评估。结果显示，fBERT 和 HateBERT 等基于英语预训练的 Transformer 模型在该数据集上表现最佳。

    Nov, 2023