offensive language | BriefGPT

关键词offensive language

搜索结果 - 35

ToxiCloakCN: 评估中文攻击性语言识别模型的鲁棒性
通过改进的数据集在汉语中测试大型语言模型（LLMs）对于侮辱性内容的检测，研究表明现有模型在存在这些干扰时检测侮辱性内容的性能明显不足，强调了对进阶技术的迫切需求以应对逃避检测机制的不断演变的策略。
PDF18 days ago
中文恶意言语检测：现状与未来方向
监测和规范社交媒体平台上用户生成内容的努力虽然仍然在进行，但数字空间中令人不悦的语言（如仇恨言论或网络欺凌）的普遍存在仍然是一个重大挑战。本文全面概述了中文中令人不悦言语的检测，考察了当前的基准和方法，并强调了解决这种复杂语言中令人不悦言语
PDF3 months ago
2024 年多模态仇恨言论事件检测中的 MasonPerplexity：使用 Transformer 集合进行仇恨言论和目标识别
自动识别具有攻击性语言，例如仇恨言论，对于保持在线社区中的讨论文明至关重要。这篇论文介绍了 MasonPerplexity 在 CASE 2024 和 EACL 2024 的多模式仇恨言论事件检测共享任务上的提交。
PDF5 months ago
多语言有针对性攻击性言论识别与可视化
在网络上出现各种仇恨、虐待和粗鄙的言辞。我们建立了一个名为 Muted 的系统，通过使用热图显示攻击性论点及其目标的强度，来识别多语种的仇恨言辞内容。Muted 可以利用任何基于 Transformer 的仇恨分类模型及其注意机制来直接识别
PDF7 months ago
解构冒犯感知：文化和道德相关性
经过大规模的跨文化研究，我们发现不同文化背景下对冒犯性的感知存在显著差异，而个体的道德价值观在塑造这些差异方面起到了关键作用。这些认识对于我们构建适用于多元文化背景的 AI 模型至关重要，以确保它们尊重和考虑各种地理文化背景中的道德价值观。
PDF7 months ago
EMNLP标注敏感性：训练数据采集方法对模型性能的影响
通过实验条件下的注释仪器设计和模型性能评估，研究表明注释仪器设计选择对模型训练和预测结果产生了显著影响，强调了注释仪器在机器学习文献中所占重要角色，呼吁进一步研究注释仪器的影响和指导最佳实践的开发。
PDF7 months ago
EMNLPK-HATERS：针对特定目标的韩文仇恨言论检测语料库
本研究介绍了 K-HATERS，这是一种用于韩文中仇恨言论检测的新语料库，其中含有大约 192K 个新闻评论，附有针对特定目标的冒犯程度评分。该语料库是韩文中最大的冒犯性语言语料库，是首个提供针对三级李克特量表的特定目标评分的语料库，能够检
PDF8 months ago
BAN-PL: Wykop.pl 网络服务禁止的有害和冒犯性内容的新波兰数据集
介绍了第一个涵盖被专业版主标记为有害并随后移除的波兰语文本的开放数据集 BAN-PL，并提供了数据收集和预处理程序的全面描述，以及数据的语言特性。BAN-PL 数据集以及用于预处理的高级脚本将公开提供。
PDFa year ago
基于情感感知共享编码器的仇恨言论和攻击性语言检测
通过多任务联合学习中的情感特征提取方法，本文使用 Bert 和 mBert 模型提升了社交媒体平台上有害内容的探测，实现了数据高效率和更好的分类效果。
PDFa year ago
EMNLP上下文态度控制中的语言模型解毒
提议一种新的方法进行基于上下文的控制以降低语言模型生成的有害语言，将语境的立场纳入考虑，实现生成的立场控制前缀与毒性控制前缀的组合，经实验证明该方法可以有效地学习基于上下文的立场控制策略并保持低的自毒性。
PDFa year ago
ACLViHOS: 越南语仇恨言论跨度检测
概述：该研究提出了 ViHOS 数据集，它是第一个包含 11k 条评论和 26k 个含有仇恨和攻击性言论的人工标注的数据集。通过使用各种最先进的模型进行实验，我们发现 XLM-R $_{Large}$ 在单个范围检测和所有范围检测方面取得了
PDFa year ago
预测马拉提语攻击性社交媒体帖子的类型和目标
这篇研究针对印度的低资源印度－雅利安语言 Marathi 进行防御性语言识别研究，介绍了 Marathi Offensive Language Dataset v.2.0（MOLD 2.0）数据集，并通过多次实验对此数据集进行了分析。
PDF2 years ago
英文进攻性语言误差分析工具与基础设施演示：OLEA
OLEA 是一款开源的 Python 库，提供易于使用的工具来检测英语中的冒犯性语言，同时提供重新分发新数据集和分析方法的基础设施。
PDF2 years ago
Twitter 上的攻击性语言检测
本篇报告探讨了社交媒体中侮辱性语言的检测是其中的关键挑战之一，研究者已经提出了许多先进的方法来完成这项任务，在此基础上，作者结合自己的想法，成功实现了 74% 的侮辱性 tweet 分类准确率，并列举了社交媒体世界中即将出现的滥用内容检测挑
PDF2 years ago
COLING量化攻击性语言分类器的地理表现差异
研究发现，在不同的语言和方言中，文本分类器存在偏见。本文介绍了一个新的数据集 GeoOLID，以及基于该数据集进行的地域相关内容以及其对模型性能差异的完整分析。研究表明，当前模型不能跨位置推广，并且尽管针对非洲裔美国英语的攻击语言模型会引起
PDF2 years ago
Arabic Hate Speech 2022 中的 Meta AI：具有自校正功能的多任务学习用于仇恨言论分类
该研究旨在解决阿拉伯细粒度仇恨言论识别的任务，并展示了在该任务的三个子任务中相比于基准结果的显著改进。最终的解决方案是一种采用多任务学习和自一致性校正方法的模型集成，在仇恨言论子任务中获得了 82.7％的准确率，相对于之前的工作有 3.4％
PDF2 years ago
基于情感的仇恨言论多模态学习检测
本文提出了首个多模式深度学习框架，将表达情感的音频特征与语义特征相结合，以检测有害的多媒体内容，包括暴力辱骂和冒犯性言论，结果表明，情感特征的结合可以明显提高系统的性能，同时我们也提出了一个新的有害言论检测视频数据集（HSDVD）以支持多模
PDF2 years ago
基于 BERT 的阿拉伯语攻击性语言检测系统微调方法
研究旨在通过应用最新技术，检测网络攻击性言论，保护在线社区成员并维护社会公正。通过对多个阿拉伯语攻击性言论数据集的微调，研究探究了微调对分类器的效果，结果表明，特别是在高方言评论方面，传递学习对分类器的性能有限影响。
PDF2 years ago
EMNLPFBERT: 用于识别攻击性内容的神经变换器
本文提出了 fBERT，这是一个在 SOLID 上重新训练的 BERT 模型，用于鉴定社交媒体中的冒犯内容和仇恨言论。fBERT 的性能通过对多个英文数据集的测试得到验证。
PDF3 years ago
ACLRuddit：英文 Reddit 评论的冒犯规范
该研究旨在创建第一个具有细粒度标签的 Reddit 评论英语数据集，该数据集使用了最佳 - 最差比较评分的方式进行注释，为社交媒体平台上自动检测冒犯性言论提供了可靠方法。
PDF3 years ago