基于神经网络字符组合的滥用检测模型

EMNLPSep, 2018

基于神经网络字符组合的滥用检测模型

Neural Character-based Composition Models for Abuse Detection

Pushkar Mishra, Helen Yannakoudakis, Ekaterina Shutova

TL;DR本研究设计了一个可以为未知单词组合嵌入的模型，与现有的自然语言处理技术相比，本方法可以更好地检测社交媒体上的滥用言论，数据集包含 Twitter 和 Wikipedia talk page。

Abstract

The advent of social media in recent years has fed into some highly undesirable phenomena such as proliferation of offensive language, hate speech, sexist remarks, etc. on the Internet. In light of this, there have been several efforts to automate the detection and moderation of such a

social media abusive language detection recurrent neural network hidden words word embeddings

发现论文，激发创造

用于辱骂语言检测的神经词分解模型

探究用户生成文本中的仇恨言论和语言的识别与处理问题，使用字符，子字和字节对编码模型，分析其在预训练语言模型微调中的应用，以及研究 Wikipedia 攻击，毒性和 Twitter 仇恨言论数据集。

Oct, 2019

一种用于滥用检测的统一深度学习架构

此研究使用深度学习技术基于 Twitter 数据，对社交媒体中的仇恨言论、辱骂言论、性别歧视、种族主义与欺凌行为开展综合研究，并提出了一种基于元数据和文本的检测方法，效果优于现有的检测方法。

Feb, 2018

基于图卷积神经网络的辱骂语言检测

网络滥用是当前重大的社会问题。本文提出了一种新的基于图卷积网络和用户语言行为的自动化滥用语言检测方法，较之现有技术在对在线社群的结构和语言特征建模方面获得了显著提升。

Apr, 2019

推特上滥用语言的比较研究

本文研究了在 Twitter 上关于仇恨言论和辱骂的数据集，考察了不同的学习模型和额外特征的加入，并得出了使用双向 GRU 网络结合潜在主题聚类模型的最优模型，F1 得分为 0.805。

Aug, 2018

情感和辱骂语言检测的联合模型

本文探讨了自然语言处理在网络通信中检测恶意行为的方法，并提出了一种以情感状态为特征的多任务学习模型，证明在检测恶意行为方面效果显著。

May, 2020

利用现有数据解决少样本辱骂内容检测问题

本文提出了一种两步法的方法，使用现有的包含多种任务相关的虐待性语言检测数据集进行多任务学习，再进行少量的适应性训练以针对新的标签集或语言。实验结果表明这种方法可以提高模型的性能，并且可以在不同语言中实现跨语言识别。

May, 2023

在社交网络上检测攻击性语言：基于图形注意网络的端到端检测方法

本文提出了一种基于社区结构和文本特征的端到端方法（CT-OLD）进行冒犯语言检测，其中社区结构特征被直接捕获，并使用 BERT 的最后隐藏层从文本中提取嵌入；同时，加入用户观点以表示用户特征，用户历史行为信息更适合用户意见表示。该模型的 F1 得分为 89.94％。

Mar, 2022

HateMonitors：社交媒体语言无关的滥用检测

本文介绍了我们基于梯度提升机、BERT 和 LASER 嵌入式开发的 HateMonitor 模型，在 Indo-European Languages HASOC（FIRE 2019 的任务之一）中排名第一，用于令人讨厌和令人反感的内容识别。

Sep, 2019

社交媒体上的误导性关键字和隐含滥用语：显而易见的背后

该研究分析了数据集构建到模型行为的关键词对在自动检测滥用语言方面的影响，着重于模型在缺少强烈指示性关键词的情况下漏报滥用和在存在这些关键词的情况下误报非滥用的问题，并提供解决这三个问题的未来研究建议。

May, 2022

異質環境下的辱罵語言檢測：數據集收集與監督注意力的作用

本文提出了一种注重异质性的辱骂评论的检测算法，使用带监督的注意机制和多任务学习来提高性能，并在一个包含 11000 条评论的 YouTube 数据集上进行了实验比较。

May, 2021