EMNLPSep, 2018

有害评论分类的挑战：深度误差分析

PDF
TL;DR该研究提出了一种新的集成方法来解决有毒评论分类问题，并比较了不同的深度学习和浅层方法。该方法优于所有个体模型，同时对其结果进行了验证和分析，发现了当前方法的瓶颈和未来研究方向，如语境不全和标签不一致的问题。
toxic comment classificationdeep learningshallow approachesensembleerror analysis
发现论文，激发创造
  • 卷积神经网络用于有害评论分类

    通过使用卷积神经网络方法来识别文本中有害评论，取得了很好的效果，为其在过滤互联网内容中的作用提供了充分的证据。

    Feb, 2018

  • 多任务学习在毒性评论检测中降低模型偏差的实证分析

    该论文评估了多种最先进的模型，特别关注减少模型对一些少数群体的偏见，提出了一个多任务学习模型以及一系列深度学习模型，并使用特定的指标测试这些身份群体中意料之外的模型偏见。

    Sep, 2019

  • 在线毒性检测的机器学习套件

    本文使用数据科学的现代工具将原始文本转化成关键特征，并使用阈值法或学习算法对其进行分类以监控具有攻击性的网络对话，通过系统评估 62 个分类器，从 19 个主要算法组中抽取特征并分析其准确性及相对执行时间。在语法、情感、情绪以及离群字典的 28 个特征中，一个简单的脏词列表被证明是最有预测性的评价有攻击性评论的方法，其中基于树的算法提供最透明易懂的规则，并排列特征的预测贡献。

    Oct, 2018

  • 为多元视角设计有害内容分类

    本研究调查了 17280 名互联网用户对什么构成毒性内容的期望不同，发现那些历史上处于骚扰风险中的群体更可能将 Reddit、Twitter 或 4chan 上的随机评论标记为有毒，而那些亲身经历过骚扰的人也更可能这样做。基于我们的发现，我们展示了目前的一款面向所有用户的毒性分类算法 Perspective API，如何通过个性化模型调整平均提高 86％的准确性。最终，我们强调当前的缺陷和新的设计方向，以提高毒性内容分类器的公平性和效果。

    Jun, 2021

  • 使用深度学习进行可解释的孟加拉有害评论多标签分类

    本文提出了一个基于深度学习的流程，用于分类孟加拉语的有害评论，首先使用二元分类模型确定评论是否有害，然后使用多标签分类器确定评论属于哪种毒性类型，使用 LSTM 和 BERT 嵌入达到了 89.42% 的准确性，并使用卷积神经网络和双向 LSTM（CNN-BiLSTM）实现了 78.92% 的准确率和 0.86 的加权 F1 分数。

    Apr, 2023

  • 使用机器学习模型对社交媒体毒性评论进行分类

    研究讨论了社交媒体平台上存在的有害评论问题，提出使用 Lstm-cnn 模型构建分类器，以高精度区分有毒和无毒评论，并帮助组织更好地检查评论区的有害性。

    Apr, 2023

  • 使用深度学习方法确定有毒评论和意外模型偏差最小化

    使用 BERT 模型，通过对权重损失的加权处理，检测有毒评论并减少对包括种族、性别、宗教在内的身份特征的意外偏见。与传统的逻辑回归模型相比，经过微调的 BERT 模型在分类和偏见减少方面表现得更好，具有 89% 的准确率。

    Nov, 2023

  • 哪种更有毒？来自 Jigsaw 对有毒评论的严重程度评估发现

    本文比较评估了使用 transformers 和传统机器学习模型在 Jigsaw 最近发布的毒性严重度测量数据集上的表现，并通过可解释性分析展示了模型预测中的问题。

    Jun, 2022

  • 文本分类综述：从浅层到深度学习

    本论文综述了自 1961 年至 2021 年期间文本分类领域的研究成果，包括传统方法和深度学习方法，提出了特征提取和分类技术的分类法，并对各个分类进行了详细的介绍，同时比较了不同方法之间的优缺点和各种评价指标，对未来的研究方向和面临的挑战进行了概述。

    Aug, 2020

  • 通过投票实现毒性分类

    通过整合投票和思维链过程的数据集创建机制，本研究提出了一种高质量的开源数据集用于检测有毒内容。这种方法不仅确保了每个样本的多样化分类指标，还包括分类得分和解释性推理。我们利用通过我们提出的机制创建的数据集来训练我们的模型，并将其与现有的广泛使用的检测器进行了比较。这种方法不仅增强了透明度和可定制性，还有助于更好地针对特定用例进行微调。本研究为开发有毒内容检测模型提供了一个稳健的框架，强调了开放性和适应性，从而为更有效和用户特定的内容审核解决方案铺平了道路。

    Jun, 2024