offensive content | BriefGPT

关键词offensive content

搜索结果 - 27

HateCOT: 通过大型语言模型增强解释性的通用冒犯性言论检测数据集
社交媒体的普及性使得需要可靠高效地检测有害内容以限制其负面影响。本文介绍 HateCOT 数据集，该数据集包含 52000 个样本，来自多个不同来源，并使用 GPT-3.5-Turbo 和人工筛选生成解释。我们展示在 HateCOT 上对于
PDF4 months ago
ACL定义术语：定义增强高效的侮辱性言论分类
通过社交媒体渠道传播冒犯内容已引起研究界的关注。本研究探索了元学习方法，利用冒犯言论语料库的多样性来提高其可靠和高效的检测。我们提出了一种联合嵌入架构，通过原型网络结合输入的标签和定义进行分类。我们的模型在 4 个数据集上，在使用不到 10
PDF5 months ago
跨语言攻击性语言检测：来自社交媒体的孟加拉语、阿萨姆语和博多语对话仇恨内容的基于 BERT 的分析
本文研究了在社交媒体领域中波斯尼亚语、塔吉克语、哈萨克语和蒙古语的仇恨言论检测的详细结果和关键发现。通过使用 BERT 模型，特别是 XML-Roberta-lagre，在大多数情况下，我们的成果表明其性能优于单语模型。我们的团队在任务 4
PDF7 months ago
印度 - 雅利安语言中的仇恨言论和冒犯内容检测：基于 LSTM 和 Transformers 的对抗
该研究在五种不同语言中展开了对仇恨言论的广泛比较分析，使用多种预训练模型评估其在这些语言中识别仇恨言论的性能，并为多语言环境下构建强大的仇恨言论检测系统提供了有益的见解。
PDF7 months ago
ACL多语言冒犯性语言识别的文本对文本模型
社交媒体上冒犯内容的普遍存在是公司和政府组织越来越关注的问题。本研究提出了第一个具有编码器 - 解码器结构的预训练模型，用于冒犯语言识别，并在两个大型冒犯语言识别数据集（SOLID 和 CCTK）上训练。研究结果表明，预训练的 T5 模型在
PDF7 months ago
减轻人为偏见的冒犯性语言检测的语言模式开发
通过语言数据扩增方法，减少标注过程中的偏见，借助机器的力量提高标注过程的准确性和公平性，以改善跨多种语言的冒犯性语言分类任务，并减少社交媒体上冒犯性内容的传播。
PDF7 months ago
识别转写和混合编码的孟加拉语冒犯性语言
在这篇研究中，我们探讨了社交媒体上的冒犯性内容识别问题，特别关注多语社会中常见的音译和混合语言现象对自然语言处理系统的挑战。我们引入了一份包含 5000 条手动注释评论的音译孟加拉冒犯性语言数据集（TB-OLID），并在该数据集上对机器学习
PDF7 months ago
多元评分组的（不）一致性评估框架
通过提出争议分析框架以测量不同评分人群的系统多样性，研究领域的人口统计轴线对安全批注至关重要。
PDF8 months ago
仅需演示：推进利用上下文学习进行攻击性内容转换
转述冒犯内容是一种比删除内容更好的选择，有助于提高在交流环境中的文明性。本文利用大型语言模型中的上下文学习来发展可用的转述器，通过有限数量的输入 - 标签对指导模型生成特定查询的期望输出，研究了演示数量和顺序、排除提示指令以及降低有毒性等关
PDF9 months ago
扩散模型中的统一概念编辑
文本到图像模型存在各种安全问题，先前的方法分别解决了偏见、版权和冒犯内容问题，但在实际环境中，所有这些问题同时出现在同一个模型中。我们提出了一种能够一次性处理所有问题的方法，名为统一概念编辑（UCE），通过一个闭合解而无需训练来修改模型，并
PDF10 months ago
ACL您的配偶需要专业帮助：通过建模社会关系确定消息的上下文适宜性
通过显式地对个体之间的社会关系进行建模，我们引入了一种鉴别不适当交流的新方法，并且证明了大型语言模型可以在给定的上下文中准确地识别适当性。此外，我们还证明了上下文适宜性判断对于表达出的其他社会因素（如居高临下和礼貌）具有预测性。
PDFa year ago
ACLSQuARe：一个通过人机协作创建的大规模敏感问题和可接受回答数据集
本文介绍了敏感问题时如何防止大型语言模型生成冒犯性内容和强化偏见，提出了 Sensitive Questions and Acceptable Response (SQuARe) 数据集，并通过实验展示了该数据集的实效性。
PDFa year ago
EMNLP网络有害言论的多维度识别视角：不只是仇恨
本文介绍了一种使用多个标签注释恶意在线言论的方法，强调了注释应该是细致、准确的。作者发布了一个高质量的数据集，使用六个标签注释了超过 40,000 条有关移民的推文，在此数据集上训练模型的表现优于基准数据集。
PDF2 years ago
IIITDWD-ShankarB@ Dravidian-CodeMixi-HASOC2021: 基于 mBERT 的南印度语言冒犯内容识别模型
本研究采用多语言 BERT 提取特征，并在其上使用三个不同的分类器以识别社交媒体上的辱骂内容，最终在 Malayalam 数据上获得 0.70 的加权 F1 分数并排名第五，在 Tamil 数据上获得 0.573 的加权 F1 分数并排名第
PDF2 years ago
ACLSemEval-2022 任务 5 中的 TIB-VA: 用于检测和分类具有厌女症倾向的 Meme 的多模态架构
本文提出了一种多模态架构，通过结合文本和视觉特征来检测具有女性仇恨倾向的 Internet 媒体，该解决方案在 SemEval-2022 Task 5：MAMI 挑战中所取得的最佳的成绩，其中包括对有羞辱、刻板印象、物化和暴力等亚类的分类。
PDF2 years ago
MM基于预训练语言模型检测社交媒体评论中的恐同和恐 Trans 现象
本文介绍了我们基于转换器模型的 LT-EDI 共享任务中用于检测社交媒体评论中的恐同和仇视跨性别内容的系统，使用 mBERT 等模型，并通过数据增强技术处理类别不平衡问题，代码已开源。在英语、泰米尔语和泰米尔语 - 英语子任务中，我们的排名
PDF2 years ago
使用语言模型对语言模型进行红队测试
使用红队技术，在基于语言模型的聊天机器人中生成测试用例以检测有害行为，并训练分类器检测模型产生的攻击性内容，从而发现数万条攻击性回复。这是一种在影响用户之前找到和修复各种不良行为的工具。
PDF2 years ago
一种简单的、与语言无关的却非常强大的基线系统，用于仇恨言论和攻击性内容的识别
通过使用基于字符 n-gram 的经典监督算法，SATLab 团队提出了一种自动识别推文中仇恨言论和冒犯性内容的系统，该系统与语言无关。在优化特征加权和分类器参数后，该系统在英语中达到了中等表现水平，在印地语和马拉地语这两种资源较少的语言中
PDF2 years ago
FIRE 2021 HASOC 子赛道概观：英语和印度－雅利安语言中的仇恨言论和攻击性内容识别
该研究论文介绍了 HASOC 子轨道，旨在为英语、印地语和马拉地语开发基准数据集，以支持在线平台的内容审核。他们解释了两种分析方法，分别为二元分类和精细分类问题，并提供分类算法的性能结果。
PDF3 years ago
AAAI重新考虑推特：在推文创建期间进行干预可减少冒犯内容
本研究在 Twitter 上进行随机对照试验，评估了一种新的干预方法，使发帖者有机会暂停并重新考虑他们的推文，结果发现接受干预的用户比未接受干预的用户发布的冒犯推文少 6％，该干预不仅减少了暂停后的危害推文的数量，还降低了未来的发布和回复数
PDF3 years ago