toxic behavior | BriefGPT - AI 论文速递

关键词toxic behavior

搜索结果 - 6

ACL我们是如何到达这里的？概述会话动态
我们引入了动态对话总结的任务，通过构建一个人为编写的总结数据集并探索几种自动化基准来总结对话的动态。我们评估了这些总结是否能够通过一个已建立的下游任务 —— 预测正在进行的对话是否最终会发展成有害行为 —— 来捕捉对话的轨迹。我们证明这些总
PDF2 months ago
细调预训练语言模型用于检测游戏中的垃圾言论
研究探讨了在线游戏中存在的有害行为和恶劣沟通问题，特别关注在线仇恨言论和毒性对玩家游戏表现和整体幸福感的影响。研究使用预训练语言模型来分类或检测游戏中的恶意言论和有毒信息，并评估了 BERT 和 GPT 语言模型在检测游戏内聊天中毒性的性能
PDF4 months ago
语言模型调节员能提升在线交流的健康性吗？
本文通过一种多学科的视角，建立了对对话调节有效性的系统定义，并提出了一个综合评估框架，以在无人干预的情况下评估模型的调节能力。通过该框架进行的首个已知的对话模型作为调节员的研究发现，适当引导的模型可以对有害行为提供具体而公正的反馈，但难以影
PDF8 months ago
开放式聊天机器人的安全配方
探讨了在开放领域生成式对话模型中缓解无意识偏见、有害行为的问题，提出了新的人与模型交互框架及新方法，而不使用外部分类器，在保证模型可用性的同时更安全，实现了自动和人为评估。
PDF4 years ago
探索在线团队竞技中的网络欺凌和其他有害行为
本研究旨在探索在线团队竞技游戏中的网络欺凌和其他有害行为，使用超过 1000 万个玩家报告的数据集和相应的众包决策，对多个有关有害行为的理论进行了测试，此外，本研究还可为构建检测、预防和对抗有害行为的系统提供基础。
PDF9 years ago
WWW预测在线游戏中有毒行为的众包决策
该研究提出了一种基于监督学习的方法来预测有毒行为的众包决策，使用了超过 1000 万用户报告的数据，展示了在跨地区数据上的良好性能，预计将带来节约成本和保护受害者的实际影响。
PDF10 years ago