Dec, 2020

面对在线滥用语言：从道德和人权角度的调查

PDF
TL;DR本文主要基于八项伦理原则，即：隐私、问责、安全、可透明、公平和非歧视、技术的人类控制、专业责任、人权的促进，回顾了基于自然语言处理（NLP）的网络滥用内容检测的研究，并提出了权利尊重的社会技术解决方案来检测和对抗线上滥用。
abusive content detectionnlp researchethical challengeshuman rightsonline abuse
发现论文，激发创造
  • 在线平台上的辱骂语言检测：关键分析

    调查了当前针对滥用语言的自动检测方法以及在线平台的内容管理政策，研究方向及未来工作发展方向。

    Feb, 2021

  • 在线虐待内容检测中的道德设计

    该研究在 NLP 领域探讨了如何构建一个统一的框架，用于解决识别恶意内容（包括仇恨言论，毒性评论，网络欺凌等）的问题，并强调了伦理问题的重要性。提出了一个基于 “设计伦理” 的新框架，通过两个步骤来区分个人信息相对的非个人信息、在每个类别中进行比较注释以确定滥用程度。

    Oct, 2020

  • 应对在线辱骂：自动辱骂检测方法综述

    本文综述了当前基于自然语言处理（NLP）的滥用检测方法，包括数据集、计算方法、优缺点、挑战和解决方案，并提出伦理和可解释性指南。

    Aug, 2019

  • 运用自然语言处理应对在线虐待的公正全面策略

    通过扩大研究范围，开发促进健康社区的积极技术，并将努力放在正义框架内，以解决更广泛，更严重的虐待问题，以消除数百万人受到的在线虐待问题。

    Jun, 2019

  • 情感和辱骂语言检测的联合模型

    本文探讨了自然语言处理在网络通信中检测恶意行为的方法，并提出了一种以情感状态为特征的多任务学习模型，证明在检测恶意行为方面效果显著。

    May, 2020

  • 应对仇恨言论的自然语言处理：概述和操作指南

    近年来，反言论已经成为打击网络仇恨的最有希望的策略之一。这些非升级回应在保护用户言论自由的同时，可以在减少在线和离线暴力方面产生明显影响。本文提供了关于进行反言论研究的指南，通过详细的实例描述了相关步骤，并提供了从自然语言处理研究的最佳实践。最后，我们讨论了自然语言处理中反言论研究的挑战和未来方向。

    Mar, 2024

  • 对代码混合的厌女言论进行的探索性数据分析

    通过分析 YouTube 上的 Hinglish 评论数据集，实施预处理和探索性数据分析技术，从情感评分和词云等角度对该数据集的特性进行了深入了解。

    Mar, 2024

  • 使用自然语言处理的仇恨言论自动检测的系统综述

    本文对社交媒体上仇恨言论检测和追踪的问题进行了系统综述，重点关注自然语言处理和深度学习技术，概述了该领域的文献、方法和限制，并提出未来研究方向。

    May, 2021

  • 针对 LGBTQIA + 个体的有害在线对话内容检测

    该研究使用真实数据集，通过数据分析和机器学习模型，有效检测在线讨论中有害的 LGBTQIA + 相关言论，证实大型语言模型在此任务中具有良好性能。

    Jun, 2022

  • 网络有害言论的多维度识别视角：不只是仇恨

    本文介绍了一种使用多个标签注释恶意在线言论的方法，强调了注释应该是细致、准确的。作者发布了一个高质量的数据集，使用六个标签注释了超过 40,000 条有关移民的推文，在此数据集上训练模型的表现优于基准数据集。

    Oct, 2022