hate speech detection | BriefGPT

关键词hate speech detection

搜索结果 - 97

观察监控者：基于云的内容审核服务的比较公平审计
通过第三方审计，系统评估了四个主要的云端内容审核服务，发现在依赖这些服务时可能对少数族群和弱势群体产生偏见。研究发现服务在察觉隐性仇恨言论方面存在困难，并指出有必要消除特定群体的偏见。
PDF14 days ago
ToxiCloakCN: 评估中文攻击性语言识别模型的鲁棒性
通过改进的数据集在汉语中测试大型语言模型（LLMs）对于侮辱性内容的检测，研究表明现有模型在存在这些干扰时检测侮辱性内容的性能明显不足，强调了对进阶技术的迫切需求以应对逃避检测机制的不断演变的策略。
PDF16 days ago
ACL无声信号，巨大影响：用 LLMs 进行编码式狗哨词的词义消歧
使用大型语言模型进行词义消歧，从标准说话中提取狗哨并创建出 16550 个高可信度狗哨使用示例的数据集，用于仇恨言论检测、新词研究和政治科学。
PDF24 days ago
KDD具有一般化目标感知公平性的仇恨言论检测
为了解决社交媒体平台滥用的副作用，我们提出了一种名为 GetFair 的方法，该方法可以在分类中包含多样且未知的目标，以实现公平地识别含有有毒在线帖子的内容。
PDFa month ago
ACLViHateT5：使用统一的文本转换器模型增强越南语中的仇恨言论检测
我们引入了基于 T5 架构的 ViHateT5 模型，该模型在我们提出的大规模领域特定数据集 VOZ-HSD 上进行了预训练，通过利用文本到文本架构的优势，ViHateT5 可以使用统一的模型处理多个任务，并在越南语的所有标准 HSD 基准
PDFa month ago
揭示社交媒体评论的新型身份群体命名实体识别系统
我们开发了一种适用于社交媒体的具有命名实体识别功能的仇恨言论检测工具，该工具能准确识别攻击性言论并标记相关群体。在社交媒体的案例研究中证明了工具的实用性，并对不同类型的攻击进行了对比和分析。
PDF2 months ago
利用受害者的仇恨进行越南社交媒体文本中的仇恨言论检测
社交媒体上激进内容的快速传播促使了对仇恨言论的检测任务的需求，本论文提供了一种构建用于针对性仇恨言论检测的系统的方法，并介绍了一个越南社交媒体文本的针对性仇恨言论检测数据集，并结合预训练语言模型与基于文本表征的 Bi-GRU-LSTM-CN
PDF2 months ago
HateTinyLLM：使用微型大型语言模型进行仇恨言论检测
本研究介绍了一种名为 HateTinyLLM 的基于精调的解码器型微型大型语言模型（tinyLLM）的新框架，用于高效检测仇恨言论。实验证明，精调的 HateTinyLLM 在检测效果上明显优于预训练的 mixtral-7b 模型。我们尝试
PDF2 months ago
ACL无法辨别使用和提及的 NLP 系统对反言进行审查，但教授这种区别有助于
使用提及区分是 NLP 和 CSS 领域中的重要问题，本研究提出了减轻这一问题的方法，并指出其对应用场景的重要性。
PDF3 months ago
自然语言处理数据增强在仇恨言论检测中的综合研究：传统方法、BERT 和 LLMs
本研究探讨了数据增强方法，包括传统方法和当代实践，如大型语言模型（LLM）在仇恨言论检测中的应用。同时，我们提出了基于 BERT 的编码器模型和上下文余弦相似度过滤的优化利用，通过降低标签改变率从而提高 F1 得分表现。与传统方法相比，使用
PDF3 months ago
NaijaHate: 用代表性数据评估尼日利亚推特上的仇恨言论检测
通过引入 NaijaHate 数据集、提出 NaijaXLM-T 模型以及使用领域自适应预训练和微调的方法，我们展示了针对恶意言论检测 (HSD) 在低资源环境中进行系统保护的重要性，同时揭示了在偏见数据集上评估 HSD 会严重高估其在真实
PDF3 months ago
利用人工智能打击网络仇恨：探索大型语言模型在仇恨言论检测中的挑战和机遇
我们的研究通过综述和实证分析，揭示大型语言模型在检测恶意言论中的能力和限制，强调它们作为分类器的角色以及发现优秀的模型和他们的特点和训练方法，为理解大型语言模型在关键的恶意言论检测领域的能力做出贡献。
PDF4 months ago
利用弱标注数据在混合代码 Hinglish 中进行仇恨言论检测：基于可行性驱动的迁移学习方法与大型语言模型
采用大语言模型（LLMs）进行很少标记的训练，结合零样本学习和少样本学习等方法，成功应用于 Hinglish 中的仇恨言论检测和粗细粒度的厌女症分类，研究表明使用 Bidirectional Auto-Regressive Transfor
PDF4 months ago
主观的主义？论将仇恨与冒犯混淆在滥用语言检测中的危险
自然语言处理研究已经开始采纳主观性标注者的观点，因为标注的差异性。这种方法将每个标注者的观点视为有效的，适用于涉及主观性的任务，例如情感分析。然而，这种构建对于憎恨言论检测等任务可能不适当，因为它将性别主义或种族主义等问题上的各个立场视为同
PDF4 months ago
探索大型语言模型的对抗能力
调查了大型语言模型（LLMs）是否有内在能力从良性样本中制造对抗性样本来欺骗现有的安全措施，实验结果表明，LLMs 成功地找到了对抗性扰动，有效地破坏了仇恨言论检测系统，这对依赖 LLMs 的（半）自主系统与现有系统和安全措施的交互带来了重
PDF5 months ago
基于检索增强型 GPT-4 和 LLaMA 的 Bryndza 在 ClimateActivism 2024 的立场、目标和仇恨事件检测
本研究旨在通过零 / 少样本增强和重新排名，探索了 GPT-4 等大型语言模型在 CASE 2024 共享任务中的应用，重点关注气候活动立场、仇恨言论检测、仇恨言论目标识别和立场检测等分类挑战，并与传统方法进行了实验比较，结果显示我们的模型
PDF5 months ago
ACL研究面向仇恨言论检测的 PLM 关键学习动态
调查预训练语言模型对恶意言论检测性能的影响，比较不同的预训练模型，评估其鲁棒性及微调设置，并探究预训练数据收集时间的影响。分析结果显示预训练阶段对后期任务有早期的峰值，使用最新的预训练语料库的效益有限，微调阶段会受特定层的影响。对于恶意言论
PDF5 months ago
零资源语言的多语种音频词向量
该研究针对缺乏已标注数据的零资源语言开发语音应用的挑战，特别使用声学词嵌入（AWE），通过多语言转移利用来自几种资源丰富的语言的已标注数据。该研究介绍了一种新的神经网络，优于现有的 AWE 模型在零资源语言上的表现，研究还探讨了资源丰富语言
PDF5 months ago
ICML大型语言模型应用于实际世界仇恨言论检测的调查
使用大型语言模型和四种不同的提示策略，发现大型语言模型能够有效地检测恶意言论并超过当前基准机器学习模型的性能，提示策略在高效利用大型语言模型的知识库方面起到关键作用。
PDF6 months ago
HCDIR：在线评论的端到端仇恨上下文检测与强度降低模型
在这篇论文中，我们提出了一种新颖的端到端模型 HCDIR，用于社交媒体帖子中仇恨上下文的检测和仇恨强度的降低。我们通过微调多个预训练语言模型来检测仇恨评论，并通过集成梯度（IG）模型辩证地确定了这些仇恨词的上下文。最后，我们使用掩蔽式语言建
PDF6 months ago