Demarked: 指责言论增强审查的策略:对抗言论、解毒及信息管理

Jun, 2024

Demarked: 指责言论增强审查的策略:对抗言论、解毒及信息管理

Demarked: A Strategy for Enhanced Abusive Speech Moderation through Counterspeech, Detoxification, and Message Management

HTML

PDF

Seid Muhie Yimam, Daryna Dementieva, Tim Fischer, Daniil Moskovskiy, Naquee Rizwan...

TL;DR我们提出了一种综合方法，称为划界评分虐待性言论，基于四个方面--（i）严重程度评分；（ii）目标的存在；（iii）上下文评分；（iv）法律评分-- 并提出了更多的行动选择，如解毒、对抗性言论生成、阻止或最后手段人为干预。通过对不同司法管辖区、平台和研究论文中虐待性言论法规的彻底分析，我们强调了在预防措施中的差距，并提倡针对其多方面表现采取量身定制的主动措施。我们的工作旨在为有效应对在线虐待性言论的未来策略提供信息。

Abstract

Despite regulations imposed by nations and social media platforms, such as recent EU regulations targeting digital violence, abusive content persists as a significant challenge. Existing approaches primarily rely on binary solutions, such as outright blocking or banning, yet fail to address the complex nature of →

发现论文，激发创造

运用自然语言处理应对在线虐待的公正全面策略

通过扩大研究范围，开发促进健康社区的积极技术，并将努力放在正义框架内，以解决更广泛，更严重的虐待问题，以消除数百万人受到的在线虐待问题。

Jun, 2019

应对在线辱骂：自动辱骂检测方法综述

本文综述了当前基于自然语言处理（NLP）的滥用检测方法，包括数据集、计算方法、优缺点、挑战和解决方案，并提出伦理和可解释性指南。

Aug, 2019

面对在线滥用语言：从道德和人权角度的调查

本文主要基于八项伦理原则，即：隐私、问责、安全、可透明、公平和非歧视、技术的人类控制、专业责任、人权的促进，回顾了基于自然语言处理（NLP）的网络滥用内容检测的研究，并提出了权利尊重的社会技术解决方案来检测和对抗线上滥用。

Dec, 2020

在线平台上的辱骂语言检测：关键分析

调查了当前针对滥用语言的自动检测方法以及在线平台的内容管理政策，研究方向及未来工作发展方向。