Oct, 2020

在线虐待内容检测中的道德设计

PDF
TL;DR该研究在 NLP 领域探讨了如何构建一个统一的框架，用于解决识别恶意内容（包括仇恨言论，毒性评论，网络欺凌等）的问题，并强调了伦理问题的重要性。提出了一个基于 “设计伦理” 的新框架，通过两个步骤来区分个人信息相对的非个人信息、在每个类别中进行比较注释以确定滥用程度。
abusive content detectionnlp researchhate speechtoxicitycyberbullying
发现论文，激发创造
  • 面对在线滥用语言：从道德和人权角度的调查

    本文主要基于八项伦理原则，即：隐私、问责、安全、可透明、公平和非歧视、技术的人类控制、专业责任、人权的促进，回顾了基于自然语言处理（NLP）的网络滥用内容检测的研究，并提出了权利尊重的社会技术解决方案来检测和对抗线上滥用。

    Dec, 2020

  • 应对在线辱骂：自动辱骂检测方法综述

    本文综述了当前基于自然语言处理（NLP）的滥用检测方法，包括数据集、计算方法、优缺点、挑战和解决方案，并提出伦理和可解释性指南。

    Aug, 2019

  • 一种用于滥用检测的统一深度学习架构

    此研究使用深度学习技术基于 Twitter 数据，对社交媒体中的仇恨言论、辱骂言论、性别歧视、种族主义与欺凌行为开展综合研究，并提出了一种基于元数据和文本的检测方法，效果优于现有的检测方法。

    Feb, 2018

  • 运用自然语言处理应对在线虐待的公正全面策略

    通过扩大研究范围，开发促进健康社区的积极技术，并将努力放在正义框架内，以解决更广泛，更严重的虐待问题，以消除数百万人受到的在线虐待问题。

    Jun, 2019

  • 情感和辱骂语言检测的联合模型

    本文探讨了自然语言处理在网络通信中检测恶意行为的方法，并提出了一种以情感状态为特征的多任务学习模型，证明在检测恶意行为方面效果显著。

    May, 2020

  • 在线平台上的辱骂语言检测：关键分析

    调查了当前针对滥用语言的自动检测方法以及在线平台的内容管理政策，研究方向及未来工作发展方向。

    Feb, 2021

  • ETHOS：一个在线仇恨言论检测数据集

    在本文中，我们提出了基于 YouTube 和 Reddit 评论的文本数据集 'EHTOS'，并介绍了用于创建该数据集的注释协议，旨在平衡数据。我们的关键假设是，即使从这样耗时的过程中获得一小部分标记数据，我们也可以保证在所检查的材料中发现仇恨言论。

    Jun, 2020

  • 现实世界中的不良内容检测的整体方法

    我们提出了一种整体方法来构建一个强大和有用的自然语言分类系统，以进行真实世界的内容审核，该系统的成功依赖于一系列精心设计和执行的步骤，包括内容分类法的设计和标注指令，数据质量控制，捕捉罕见事件的主动学习管道以及各种方法，以使模型具有稳健性并避免过度拟合。我们的审核系统经过训练，可检测许多不良内容的广泛集合，包括色情内容，仇恨内容，暴力，自残和骚扰。这种方法可以概括到各种不同的内容分类法，并可用于创建高质量的内容分类器，胜过现成的模型。

    Aug, 2022

  • 社交媒体内容算法化审核中被忽视的意图角色

    通过考察自动检测和审查系统的最新发展以及训练数据集的成熟度，探讨了作者意图对于内容审查系统的重要性，并提出了改善自动检测和审查系统以符合道德和政策观念的策略性变革。

    May, 2024

  • 利用现有数据解决少样本辱骂内容检测问题

    本文提出了一种两步法的方法，使用现有的包含多种任务相关的虐待性语言检测数据集进行多任务学习，再进行少量的适应性训练以针对新的标签集或语言。实验结果表明这种方法可以提高模型的性能，并且可以在不同语言中实现跨语言识别。

    May, 2023