Mar, 2024

应对仇恨言论的自然语言处理：概述和操作指南

PDF
TL;DR近年来，反言论已经成为打击网络仇恨的最有希望的策略之一。这些非升级回应在保护用户言论自由的同时，可以在减少在线和离线暴力方面产生明显影响。本文提供了关于进行反言论研究的指南，通过详细的实例描述了相关步骤，并提供了从自然语言处理研究的最佳实践。最后，我们讨论了自然语言处理中反言论研究的挑战和未来方向。
发现论文，激发创造
  • 探索网络伤害缓解的逆行言论

    用计算机科学的方法对社会科学领域中的对抗性言论研究进行系统性回顾，比较方法和结果，以填补目前在对抗性言论效用方面缺乏系统性理解的空白，从而识别出两个领域的有前途的未来方向。

    Jul, 2023

  • 社交媒体上的仇恨言论反制：仇恨言论和反言论的大规模分类

    通过使用自我标记的群体进行有组织在线仇恨言论和反言论，研究使用集成学习算法识别有组织在线仇恨言论和反言论，发现自动化方法在评估社交媒体上协调反言论对稳定对话的影响的潜力。

    Jun, 2020

  • 不可恶言相向：反击网络仇恨言论

    本文针对社交媒体上的仇恨言论问题，提出了一种基于对抗性言论的解决方案。作者构建并发布了首个基于 YouTube 评论的对抗性言论数据集，对数据集展开了详尽的分析，并最终训练出了能够在视频评论中自动检测对抗性言论的机器学习模型。

    Aug, 2018

  • 应对仇恨言论的受约束大型语言模型

    利用大型语言模型生成有限制条件的反抗言论，并研究其对在线环境的影响和生成方法的语言特征。

    Mar, 2024

  • 一个用于在线仇恨言论干预学习的基准数据集

    本文提出了一项生成式仇恨言论干预的新任务，并介绍了从 Gab 和 Reddit 收集的两个全标记的大规模仇恨言论干预数据集，该数据集提供了对话段、仇恨言论标签以及 MTurk Workers 编写的干预响应，此外，本文还分析了这些数据集以了解常见的干预策略，并探索常见的自动响应生成方法在这些新数据集上的性能以提供未来研究的基准。

    Sep, 2019

  • 分析 Twitter 上的仇恨与对立言论账户

    本研究发现 Twitter 的在线仇恨言论与相应的反言论使用了不同的语言和策略，并且经过一些分析和建模，能够对这些用户进行可靠的分类以进一步研究。

    Dec, 2018

  • 生成针对在线仇恨言论的反叙事：数据与策略

    本研究旨在有效收集应对仇恨言论的响应，利用大规模的无监督语言模型生成银标注数据，并采用最佳注释策略 / 神经网络架构来进行专家验证 / 后期编辑。

    Apr, 2020

  • 印度语低资源对抗生成：以孟加拉语和印地语为例

    通过创建一组包含滥用言论 / 反言论对的基准数据集，我们在低资源语言（例如孟加拉语和印地语）中使用多种不同配置的基准模型进行测试，观察到单语言设置提供了最佳性能，并发现同属于相同语言家族的语言之间的转移性较好。

    Feb, 2024

  • 生成、剪枝、选择：针对在线仇恨言论的反驳言论生成管道

    本文提出了一种三模块的处理方法，包括生成对抗语言的多样性解决方案，使用 BERT 模型过滤语法不正确的方法和使用新颖的基于检索的方法选择最相关的反对言论来有效防止仇恨言论的不断增加。

    Jun, 2021

  • 人机协作方法构建反仇恨言论对话数据集

    本文介绍了一种混合方法收集在线仇恨言论和非政府组织的多轮对话数据，从而帮助训练自然语言生成模型以自动化反击网络仇恨言论。

    Nov, 2022