COLINGOct, 2020

全面检测滥用内容！走向普适的滥用语言检测模型

PDF
TL;DR本文中我们介绍了一个名为 MACAS 的新型通用虐待性语言检测框架，该框架能够解决跨不同领域的多种虐待性语言任务，其中使用了多角度虐待性语言嵌入和文本图嵌入分析用户的语言行为，并使用了交叉注意力门机制来有效处理多方面的虐待语言，并在 7 个 ALD 数据集上进行了评估，结果表明我们的 ALD 算法在多个领域的虐待性语言问题上表现优异，可以与当前六种最先进的 ALD 算法相媲美甚至超越。
online abusive language detectionmacas frameworklinguistic behavior analysistextual graph embeddingcross-attention gate flow mechanism
发现论文，激发创造
  • 多语种和多模态滥用检测

    本文提出了一种多模态方法（MADA），以从社交媒体上的多语言对话音频中检测滥用内容为目标，并证明利用其他模态的判别信息对音频建模可以极大地提高性能。实验证明，MADA 可以在 ADIMA 数据集上取得比仅使用音频的方法更好的表现，并且在测试了 10 种不同语言后，在多模态结合的情况下可以获得 0.6％-5.2％ 的一致增益。 此外，我们还做了实验证明了潜在情绪和虐待行为之间存在强烈的相关性。

    Apr, 2022

  • 一种用于滥用检测的统一深度学习架构

    此研究使用深度学习技术基于 Twitter 数据，对社交媒体中的仇恨言论、辱骂言论、性别歧视、种族主义与欺凌行为开展综合研究，并提出了一种基于元数据和文本的检测方法，效果优于现有的检测方法。

    Feb, 2018

  • 改进基于数据引导的印度语恶意语言检测方法，提高低资源环境下的检测效果

    本篇论文探讨针对印度尼西亚语多语种辱骂性言论的大规模分析，研究不同的语言转移机制及该领域的多语种模型的表现，同时探究此类模型对抗性攻击的能力，并进行了误判分析。

    Apr, 2022

  • 推特上滥用语言的比较研究

    本文研究了在 Twitter 上关于仇恨言论和辱骂的数据集，考察了不同的学习模型和额外特征的加入，并得出了使用双向 GRU 网络结合潜在主题聚类模型的最优模型，F1 得分为 0.805。

    Aug, 2018

  • 異質環境下的辱罵語言檢測：數據集收集與監督注意力的作用

    本文提出了一种注重异质性的辱骂评论的检测算法，使用带监督的注意机制和多任务学习来提高性能，并在一个包含 11000 条评论的 YouTube 数据集上进行了实验比较。

    May, 2021

  • 在线平台上的辱骂语言检测：关键分析

    调查了当前针对滥用语言的自动检测方法以及在线平台的内容管理政策，研究方向及未来工作发展方向。

    Feb, 2021

  • 情感和辱骂语言检测的联合模型

    本文探讨了自然语言处理在网络通信中检测恶意行为的方法，并提出了一种以情感状态为特征的多任务学习模型，证明在检测恶意行为方面效果显著。

    May, 2020

  • HateMonitors：社交媒体语言无关的滥用检测

    本文介绍了我们基于梯度提升机、BERT 和 LASER 嵌入式开发的 HateMonitor 模型，在 Indo-European Languages HASOC（FIRE 2019 的任务之一）中排名第一，用于令人讨厌和令人反感的内容识别。

    Sep, 2019

  • 虐待性语言训练数据的方向：垃圾进，垃圾出

    本研究从数据驱动分析、骚扰性在线内容、数据集创建、建议和基于证据的综合等方面，系统性地评估了一种在线暴力语言数据集。通过这种基于知识的综合，我们向从事这种复杂多样数据处理的从业者提供了推荐建议。

    Apr, 2020

  • 利用现有数据解决少样本辱骂内容检测问题

    本文提出了一种两步法的方法，使用现有的包含多种任务相关的虐待性语言检测数据集进行多任务学习，再进行少量的适应性训练以针对新的标签集或语言。实验结果表明这种方法可以提高模型的性能，并且可以在不同语言中实现跨语言识别。

    May, 2023