online hate | BriefGPT - AI 论文速递

关键词online hate

搜索结果 - 9

数据饮食下的性别主义检测
我们展示了如何利用影响分数来估计在训练模型和设计剪枝策略时数据点的重要性，应用于性别歧视检测案例中，我们评估了不同剪枝策略下训练的模型在三个领域外数据集上的性能，并发现大部分实例可以删除而不会显著降低性能，但我们还发现之前在自然语言推理任务
PDFa month ago
应对仇恨言论的自然语言处理：概述和操作指南
近年来，反言论已经成为打击网络仇恨的最有希望的策略之一。这些非升级回应在保护用户言论自由的同时，可以在减少在线和离线暴力方面产生明显影响。本文提供了关于进行反言论研究的指南，通过详细的实例描述了相关步骤，并提供了从自然语言处理研究的最佳实践
PDF3 months ago
在大型语言模型中通过思维链条推理来调节新的网络仇恨浪潮
在线仇恨是一个不断升级的问题，对互联网用户的生活产生负面影响，并由于不断发展的事件而面临快速变化，进而导致新的在线仇恨浪潮构成重大威胁。为了解决这一关键问题，我们提出了一种名为 HATEGUARD 的新型框架，通过利用最近引入的思维链（Co
PDF6 months ago
MaRCo：用专家和反专家进行可控修订的文本去毒化工具
介绍了 MaRCo 算法，该算法采用 Product of Experts 和自编码语言模型相结合的方式，通过在非有毒和有毒语言模型下评估可能要屏蔽和替换的候选单词，能够有效地解决细微的毒性挑战，即使在人类评估中也要比基线方法更受欢迎，证明
PDF2 years ago
语言变化对自动化评论审核的影响
本文研究在线仇恨在新闻评论中的传播情况，提出了使用机器学习和自然语言处理实现半自动恶意语言检测的方法，并通过德国报纸评论数据集的测试发现，传统机器学习技术对于动态语言环境下的检测效果不佳，需要考虑时序动态性以避免使用不具实用价值的模型。
PDF2 years ago
HateCheckHIn：对印地语仇恨言论检测模型的评估
针对社交媒体中存在的多语言仇恨言论，本文提出了一种针对多语言仇恨言论模型的功能集，被用于对现有模型的诊断分析。通过以印地语为基础语言，构建了 HateCheckHIn 评估数据集，测试了最先进的基于 Transformer 的 m-BERT
PDF2 years ago
Reddit 和 4chan 上关于 2020 年美国大选的在线仇恨比较分析：一个案例研究
本文研究纵观比对 Reddit 和 4chan 上 2020 年美国总统选举期间的仇恨言论，并借助自然语言处理技术，发现各平台的内容和发布活动有所差异，因此提出了跨平台研究的未来发展方向，以更全面地了解全球仇恨生态系统。
PDF2 years ago
Hatemoji：面向基于表情符号的仇恨的基准测试套件和对抗生成的数据集
介绍了 HatemojiCheck 和 HatemojiBuild 测试套件，用于评估 emoji 表情符号表达的仇恨言论的检测性能。HatemojiBuild 数据集可以将人和模型相结合创建的敌对示例用于构建模型，提高检测 emoji 表
PDF3 years ago
AAAI了解在线反犹太主义的数量化方法
本文提出了一个大规模、定量的研究在线反犹太主义的方法，并使用科学方法量化了反犹太梗和 retoric 在网上的扩散和加剧程度。在收集百万级别的信息之后，我们提取了语义嵌入并演示了如何使用自动化技术发现并对反犹太术语进行分类。我们的结果为理解
PDF6 years ago