Apr, 2020

Kungfupanda 于 SemEval-2020 12 任务：基于 BERT 的多任务学习用于冒犯性语言检测

PDF
TL;DR本篇研究论文针对社交媒体中的攻击性内容建立一个结合多任务学习和以 BERT 为基础的模型的系统，利用预训练的 BERT 语言模型有效地学习社交媒体中包含噪音的文本的表示，同时利用其他相关任务的监督信号来提高攻击性语言检测的性能，在 OffensEval-2020 比赛中，我们的模型在英文子任务 A 中达到了 91.51％的 F1 得分，相当于第一名（92.23％F1），同时提供了经验分析来解释我们方法的有效性。
offensive language detectionsocial mediamulti-task learningbert-based modelssupervision signals
发现论文，激发创造
  • KUISAIL 在 SemEval-2020 任务 12 中：基于 BERT-CNN 在社交媒体中识别冒犯性言论

    本文介绍了使用预训练 BERT 模型与卷积神经网络，处理 OffensEval 2020 任务 A（多语言攻击性语言识别）子任务的方法，并表明结合 CNN 和 BERT 比仅使用 BERT 更好，强调了利用预训练语言模型进行下游任务的重要性。我们排名第四，在阿拉伯语平均宏 F1 得分为 0.897，在希腊语得分为 0.843，在土耳其语得分为 0.814。另外，我们介绍了 ArabicBERT，一组针对阿拉伯语的预训练 transformer 语言模型，并与社区分享。

    Jul, 2020

  • GUIR at SemEval-2020 Task 12：面向领域的上下文调整模型用于攻击性语言检测

    本文探讨了利用经过领域调整的上下文化语言模型（BERT）以及叠加不同组件和配置（如：多视图支持向量机）来识别带有攻击性语言的存在、带有目标的攻击性语言的存在和目标的类别，作者提出的提交方案在 OffensEval 2020 共享任务中分别取得了 91.7%、66.5% 和 63.2% 的 F1 得分。通过消融实验和误差分析，作者发现领域调整可以极大地提高分类性能，并提出未来的研究方向。

    Jul, 2020

  • 跨语言迁移技术提升攻击性语言检测：SemEval-2020 第 12 项任务中的 NLPDove

    本文介绍了我们在多语言环境下识别冒犯性语言的方法，使用数据增强策略，包括使用具有不同阈值的附加半监督标签和跨语言转移与数据选择，并提出了一个新的度量标准 Translation Embedding Distance，用于跨语言数据选择。我们还提出了各种预处理步骤和微调方法，定制社交媒体文本的预训练多语言 BERT（mBERT）来进行冒犯性语言识别，我们的多语言系统在 OffensEval 2020 上取得了有竞争力的结果。

    Aug, 2020

  • 基于 BERT 的阿拉伯语攻击性语言检测系统微调方法

    研究旨在通过应用最新技术，检测网络攻击性言论，保护在线社区成员并维护社会公正。通过对多个阿拉伯语攻击性言论数据集的微调，研究探究了微调对分类器的效果，结果表明，特别是在高方言评论方面，传递学习对分类器的性能有限影响。

    Feb, 2022

  • 基于 Twitter BERT 的 Marathi 语攻击性语言检测方法

    本文介绍了我们在印度低资源口语马拉地语中的 Offensive Language Identification 的工作，讨论了使用 BERT 模型进行文本分类任务以识别推文是否冒犯，比较了不同 BERT 模型在 HASOC 2022 测试集上的表现，包括从其他现有 Marathi 仇恨言论语料库 HASOC 2021 和 L3Cube-MahaHate 进行的扩充等，并且当将 MahaTweetBERT 模型在结合数据集（HASOC 2021 + HASOC 2022 + MahaHate）上进行微调时，其在 HASOC 2022 测试集上取得了 98.43 的 F1 得分，这也是 HASOC 2022 / MOLD v2 测试集的新最优表现。

    Dec, 2022

  • FBERT: 用于识别攻击性内容的神经变换器

    本文提出了 fBERT，这是一个在 SOLID 上重新训练的 BERT 模型，用于鉴定社交媒体中的冒犯内容和仇恨言论。fBERT 的性能通过对多个英文数据集的测试得到验证。

    Sep, 2021

  • 从 Twitter 辨识攻击性帖文和攻击目标

    本文介绍了我们在 SemEval 2019 任务 6：识别和分类社交媒体中的冒犯性语言的子任务 A 和子任务 B 中的方法和系统描述。其中子任务 A 包括确定给定推文是否具有冒犯性，子任务 B 涉及检测是否针对某人（团体或个人）的攻击性推文。我们基于卷积神经网络，带有关注机制的双向 LSTM 和双向 LSTM + 双向 GRU 的集成模型进行子任务 A 的建模，而对于子任务 B，我们依赖于从训练数据和手动观察中得出的一组启发式规则。我们详细分析了使用训练模型获得的结果。我们的团队在子任务 A 中排名第 5，获得 0.807 的宏 F1 分数，在子任务 B 中排名第 8，获得 0.695 的宏 F1 分数。

    Apr, 2019

  • 利用 BERT 和 SVM 识别冒犯性推文的 SemEval-2019 任务 6 中的 UM-IU@LING

    介绍了 UM-IU@LING 在 SemEval 2019 Task 6 中采用混合方法识别和分类社交媒体中的仇恨言论的系统，在子任务 A 中，使用经过微调的基于 BERT 的分类器在推文中检测恶意内容，在测试集上获得了 0.8136 的宏 F1 分数，位于 103 个提交中的第三名，在任务 B 和 C 中，使用选定字符 n-gram 特征的线性支持向量机，在子任务 C 中，系统可以识别出滥用的目标，最终在 65 个提交中排名第 27 位。

    Apr, 2019

  • SemEval-2020 任务 12：社交媒体中的多语种攻击性语言识别（OffensEval 2020）

    总结 SemEval-2020 中的 OffensEval 任务，它涉及多语言社交媒体中的多语种冒犯性语言识别，并说明了其在 OffensEval 2019 中的分层分类结构。

    Jun, 2020

  • 使用 Transformers 从多语代码混合文本中检测攻击性言论

    本论文提出了一种多语言自动化系统，使用机器学习和转换器来从混合语言的数据中识别带有冒犯性的文本，并在 Tamil、Malayalam 和 Kannada 三种语言的数据集上进行了测试。结果表明，该系统在不同语言上表现出不同的最佳表现方法，得分最高的是 m-BERT（Kannada）和 XLM-R（Tamil 和 Malayalam），系统性能达到了一定的水平。

    Feb, 2021